+ Tìm giá trị nhỏ nhất.

Áp dụng bất đẳng thức Cauchy cho 2 số dương ta có:a2+b2≥2abb2+c2≥2bcc2+a2≥2ca⇒2a2+b2+c2≥2ab+bc+ca

⇒P=a2+b2+c2≥ab+bc+ca=9

Dấu ‘=’ xảy ra ⇔a=b=c≥1ab+bc+ca=9⇔a=b=c=3.

+ Tìm giá trị lớn nhất.

Vì a≥1b≥1c≥1⇒a−1b−1≥0b−1c−1≥0c−1a−1≥0⇒ab−a−b+1≥0bc−b−c+1≥0ca−c−a+1≥0

⇒ab+bc+ca−2a+b+c+3≥0

⇒3≤a+b+c≤ab+bc+ca+32=6

⇒a+b+c2≤36

⇒a2+b2+c2+2ab+bc+ca≤36

⇒P≤36−2ab+bc+ca=18

Dấu ‘=’ xảy ra ⇔a=4,b=c=1b=4,c=a=1c=4,a=b=1.

Vậy GTNN của P là 9, xảy ra khi và chỉ khi a=b=c=3.

GTLN của P là 18, xảy ra khi và chỉ khi a=4,b=c=1b=4,c=a=1c=4,a=b=1.