Tìm đa thức Q(x) = x^3 + ax^2 + bx + c thoả mãn Q(P(x)) = P(Q(x)) và P(x) = x^2 - K với K là hằng số cho trước

Để tìm đa thức Q(x), ta sẽ thay P(x) vào Q(P(x)) và P(Q(x)) và so sánh các hệ số của các mũ của x.

Thay P(x) = x^2 - K vào Q(P(x)), ta có:
Q(P(x)) = Q(x^2 - K) = (x^2 - K)^3 + a(x^2 - K)^2 + b(x^2 - K) + c

Thay P(Q(x)) = P(Q(x)) = (Q(x))^2 - K = (Q(x))^2 - K = (Q(x))^2 - K

So sánh các hệ số của các mũ của x, ta có:
(x^2 - K)^3 + a(x^2 - K)^2 + b(x^2 - K) + c = (Q(x))^2 - K

Mở rộng và so sánh từng hệ số, ta có:
x^6 - 3Kx^4 + 3K^2x^2 - K^3 + ax^4 - 2aKx^2 + aK^2 + bx^2 - bK + c = (Q(x))^2 - K

So sánh hệ số của x^6, ta có: 1 = 0, vô lý.

Vậy không tồn tại đa thức Q(x) thoả mãn Q(P(x)) = P(Q(x)) với P(x) = x^2 - K.