Với các số thực a, b, c không âm thỏa mãn

Đặt x = a + b + c, y = ab + bc + ca.

Ta có: P = a^2 + b^2 + c^2 = (a + b + c)^2 - 2(ab + bc + ca) = x^2 - 2y.

Theo điều kiện đã cho, ta có: x + y = 6.

Áp dụng bất đẳng thức AM-GM, ta có: x^2 = (a + b + c)^2 ≥ 3(ab + bc + ca) = 3y.

Do đó, P = x^2 - 2y ≥ 3y - 2y = y.

Vậy, GTLN của P là y.

Để tìm GTLN của P, ta cần tìm GTLN của y.

Áp dụng bất đẳng thức AM-GM cho y, ta có: y = ab + bc + ca ≤ (a + b + c)^2/3 = x^2/3.

Do đó, GTLN của y là x^2/3 = (a + b + c)^2/3 = 2^2/3 = 4/3.

Vậy, GTLN của P là 4/3.