Ta có:

  a5a3+2b3=a2a3+2b3−2a2b3a3+2b3= a² − 2 a2b3a3+2b3

a³ + 2b³ = a³ + b³ + b³ ≥  3a3.b3.b33Þ a³ + 2b³ ≥ 3ab²

Þ  a2b3a3+2b3≤  a2b33ab2Þ  a2b3a3+2b3≤  ab3

Þ a² − 2 a2b3a3+2b3 ≥ a² −  23ab Þ  a5a3+2b3 ≥ a² − 23 ab

Chứng minh tương tự

b5b3+2c3   ≥ b² − 23 bc,  c5c3+2a3 ≥ c² −  23ca.

Từ đây ta có S ≥ a² + b² + c² −  23ab −  23bc −  23ca

= 12[(a – b)² + (b – c)² + (c – a)²] + 13(ab + bc + ca)

Þ P ≥ 13(ab + bc + ca)

Áp dụng bất đẳng thức (x + y + z)² ≥ 3(xy + yz + zx), ta có:

(ab + bc + ca)² ≥ 3 Þ ab + bc + ca ≥  3

Þ P ≥  33. Đẳng thức xảy ra khi và chỉ khi a = b = c =  134