Ta có thể viết lại P dưới dạng sau:
P = ab + 2bc + 3ca = ab + bc + bc + ca + ca + ca
Áp dụng bất đẳng thức AM-GM cho từng cặp số, ta được:
ab ≤ (a+b)²/4
bc ≤ (b+c)²/4
ca ≤ (c+a)²/4
Thay các bất đẳng thức trên vào P, ta có:
P ≤ (a+b)²/4 + (b+c)²/4 + (c+a)²/4
= [(a+b)² + (b+c)² + (c+a)²]/4
= [(a²+b²+2ab) + (b²+c²+2bc) + (c²+a²+2ca)]/4
= [2(a²+b²+c²) + 2(ab+bc+ca)]/4
= (a²+b²+c²)/2 + (ab+bc+ca)/2
Ta có: (a+b+c)² = a² + b² + c² + 2(ab+bc+ca) = 36
=> a² + b² + c² = 36 - 2(ab+bc+ca)
Thay vào biểu thức P, ta được:
P ≤ [(36 - 2(ab+bc+ca))/2] + (ab+bc+ca)/2
= 18 - (ab+bc+ca)/2
Để P đạt giá trị lớn nhất thì (ab+bc+ca)/2 phải đạt giá trị nhỏ nhất. Mà (ab+bc+ca)/2 luôn không âm, nên giá trị nhỏ nhất của nó là 0.
Vậy giá trị lớn nhất của P là: Pmax = 18 - 0 = 18.
Giá trị lớn nhất của biểu thức P = ab + 2bc + 3ca khi a + b + c = 6 là 18.