Để tìm giá trị nhỏ nhất của biểu thức x^2 - 4xy + 5y^2 - 6y - 3, ta có thể sử dụng phương pháp hoàn thành khối vuông.

Đầu tiên, ta nhận thấy rằng biểu thức trên có thể viết lại dưới dạng:

x^2 - 4xy + 5y^2 - 6y - 3 = (x^2 - 2xy + y^2) + (4y^2 - 6y) - 3 = (x - y)^2 + 4(y^2 - 3y) - 3.

Tiếp theo, ta sẽ tìm giá trị nhỏ nhất của từng thành phần trong biểu thức trên.

Đối với thành phần (x - y)^2, giá trị nhỏ nhất là 0 khi x = y.

Đối với thành phần 4(y^2 - 3y), ta có thể sử dụng phương trình đạo hàm để tìm giá trị nhỏ nhất. Đạo hàm của hàm số này là:

d(4(y^2 - 3y))/dy = 8y - 12.

Để tìm điểm cực tiểu, ta giải phương trình 8y - 12 = 0, ta được y = 3/2. Khi đó, giá trị nhỏ nhất của thành phần này là 4(9/4 - 9/2) = -9.

Cuối cùng, ta cộng tổng các thành phần lại:

(x - y)^2 + 4(y^2 - 3y) - 3 = 0 + (-9) - 3 = -12.

Vậy, giá trị nhỏ nhất của biểu thức x^2 - 4xy + 5y^2 - 6y - 3 là -12.