Ta có: P=2x2+y2+35xy+2xy=2x2+y2+1xy+32xy+2xy+2xy.

Với a>0, b>0 ta có 1a+1b≥4a+b (*). (Chứng minh bằng biến đổi tương đương hoặc cô-si).

Áp dụng (*) cho hai số dương 2x2+y2; 1xy ta được:

2x2+y2+1xy=21x2+y2+12xy≥2.4x2+y2+2xy=8x+y2>842=12.

Áp dụng bất đẳng thức Cô – si cho hai số dương , ta có:

2xy≤x+y≤4⇒xy≤4⇒2xy≥24=1232xy+2xy≥232xy.2xy=16.

Do đó P=2x2+y2+1xy+32xy+2xy+2xy≥12+16+12=17.

Dấu đẳng thức xảy ra khi x2+y2=2xyxy=4x=yx+y=4⇔x=y=2.

Vậy giá trị nhỏ nhất của P là 17khi x=y=2.