Áp bất đẳng thức Cô-si cho hai số dương ta có 
1/a + 1/b >= 2can{(1/a).(1/b)}; 
hay 1/a + 1/b >= 2/can(ab). 
Vì 1/a + 1/b = 2 nên 
2 >= 2/can(ab); 
hay can(ab) >= 1. 
Lại áp dụng bất đẳng thức Cô-si cho bốn số dương ta được 
a^4 + b^2 + ab^2 + ab^2 >= 4CB4{(a^4).(b^2).(ab^2).(ab^2)}; 
hay a^4 + b^2 + 2ab^2 >= 4CB4[(ab)^6]; 
hay a^4 + b^2 + 2ab^2 >= 4[can(ab)]^3, 
và chứng minh tương tự ta cũng có 
hay b^4 + a^2 + 2ba^2 >= 4[can(ab)]^3. 
Từ đó suy ra 
1/(a^4 + b^2 + 2ab^2) + 1/(b^4 + a^2 + 2ba^2) <= 1/{4[can(ab)]^3} + 1/{4[can(ab)]^3}; 
hay Q <= 1/{2[can(ab)]^3}. 
Lại vì can(ab) >= 1 nên 
1/{2[can(ab)]^3} <= 1/{2.1^3}; 
hay 1/{2[can(ab)]^3} <= 1/2, 
và do đó Q <= 1/2. Dấu bằng xảy ra khi a = b = 1. 
KL: Q đạt GTLN bằng 1/2 khi a = b = 1.