Tìm M trên đường thẳng d:

Để tìm điểm M trên đường thẳng d sao cho | vtMA + vtMB + vtMC| nhỏ nhất, ta cần tìm điểm M sao cho tổng các vector vtMA, vtMB, vtMC có độ dài nhỏ nhất.

Gọi M(x;y) là tọa độ của điểm M.

Vector vtMA = A - M = (-6-x, 3-y)
Vector vtMB = B - M = (0-x, -1-y) = (-x, -1-y)
Vector vtMC = C - M = (3-x, 2-y)

Ta có | vtMA + vtMB + vtMC| = |(-6-x, 3-y) + (-x, -1-y) + (3-x, 2-y)|
= |(-6-x-x+3-x, 3-y-1-y+2-y)|
= |(-8-3x, 4-4y)|

Để | vtMA + vtMB + vtMC| nhỏ nhất, ta cần tìm điểm M sao cho độ dài của vector (-8-3x, 4-4y) nhỏ nhất.

Độ dài của vector (-8-3x, 4-4y) là căn bậc hai của tổng bình phương các thành phần:
sqrt[(-8-3x)^2 + (4-4y)^2]

Để đơn giản hóa bài toán, ta có thể tìm giá trị nhỏ nhất của hàm số f(x, y) = (-8-3x)^2 + (4-4y)^2.

f(x, y) = (-8-3x)^2 + (4-4y)^2 = 9x^2 + 16y^2 + 24x + 32y + 80

Để tìm giá trị nhỏ nhất của hàm số f(x, y), ta cần tìm đạo hàm riêng theo x và y, sau đó giải hệ phương trình đạo hàm bằng 0.

df/dx = 18x + 24 = 0
df/dy = 32y + 32 = 0

Từ đó, ta có hệ phương trình:
18x + 24 = 0
32y + 32 = 0

Giải hệ phương trình trên, ta tìm được x = -4/3 và y = -1.

Vậy điểm M có tọa độ là M(-4/3; -1) là điểm trên đường thẳng d: 2x-y-3=0 mà | vtMA + vtMB + vtMC| nhỏ nhất.