Để tìm đa thức M, ta sẽ giải từng phương trình theo từng bước:

a/ M + (5x^2 - 2xy) = 6x^2 + 9xy - y^2

Để đơn giản hóa phương trình, ta sẽ nhóm các thành phần có cùng bậc của x và y lại với nhau:

M + 5x^2 - 2xy = 6x^2 + 9xy - y^2

Chuyển các thành phần có x^2 về cùng một bên, và các thành phần có xy về cùng một bên:

M - 6x^2 - 9xy = -5x^2 + 2xy - y^2

Đổi dấu của các thành phần:

-6x^2 - 9xy + M = -5x^2 + 2xy - y^2

Kết hợp các thành phần có cùng bậc:

(-6 - 5)x^2 + (2 - 9)xy - y^2 + M = 0

-11x^2 - 7xy - y^2 + M = 0

Vậy đa thức M = 11x^2 + 7xy + y^2.

b/ (3xy - 4y^2) - N = x^2 - 7xy + 8y^2

Tương tự như trên, ta nhóm các thành phần có cùng bậc của x và y lại với nhau:

3xy - 4y^2 - N = x^2 - 7xy + 8y^2

Chuyển các thành phần có x^2 về cùng một bên, và các thành phần có xy về cùng một bên:

3xy + 7xy - 4y^2 - N = x^2 + 8y^2

Kết hợp các thành phần có cùng bậc:

(3 + 7)xy - (4 + 8)y^2 - N = x^2

10xy - 12y^2 - N = x^2

Vậy đa thức N = 10xy - 12y^2.