Để tìm giá trị lớn nhất hoặc nhỏ nhất của biểu thức I, ta cần tìm điểm cực trị của hàm số I(x, y).

Đầu tiên, ta tính đạo hàm riêng của I theo x và y:
∂I/∂x = 2x - 2y
∂I/∂y = -2x + 6y - 12

Để tìm điểm cực trị, ta giải hệ phương trình sau:
2x - 2y = 0
-2x + 6y - 12 = 0

Từ phương trình thứ nhất, ta có x = y.
Thay x = y vào phương trình thứ hai, ta có -2y + 6y - 12 = 0.
Simplifying, ta có 4y - 12 = 0.
Giải phương trình này, ta có y = 3.

Thay y = 3 vào phương trình x = y, ta có x = 3.

Vậy, điểm cực trị của hàm số I(x, y) là (3, 3).

Để xác định giá trị lớn nhất hoặc nhỏ nhất của I, ta cần kiểm tra các điểm biên của miền xác định của I.

Để xác định miền xác định, ta xem x và y có giới hạn không hay không.
Trong biểu thức I, không có giới hạn cho x và y được đề cập, vì vậy miền xác định là R^2, tức là không giới hạn.

Vì không có giới hạn, không có điểm biên, vậy không có giá trị lớn nhất hoặc nhỏ nhất của I.

Tóm lại, không có giá trị lớn nhất hoặc nhỏ nhất của biểu thức I = x^2 - 2xy + y^2 + 3y^2 - 12y + 5.