Để phân tích thành thừa số của biểu thức trên, ta cần tìm các số nguyên a, b, c sao cho:

x^2 + xy - 2y^2 - 3x + 3y = (ax + by + c)(dx + ey + f)

Nhân hai đa thức bên phải ta được:

(ax + by + c)(dx + ey + f) = adx^2 + (ae + bd)xy + bef + cdx + cey + cf

So sánh các hệ số của biểu thức trên với biểu thức ban đầu, ta có hệ thức sau:

a = d = 1
ae + bd = 1
be = -2
c + cf = -3
ce = 3

Từ hệ thức trên, ta có thể giải hệ phương trình và tìm ra các giá trị của a, b, c, d, e, f. Sau khi giải, ta được:

a = d = 1
b = -1
c = 3
e = -3
f = -1

Vậy biểu thức đã cho có thể phân tích thành thừa số như sau:

x^2 + xy - 2y^2 - 3x + 3y = (x - y + 3)(x - 3y - 1)