x+y=mx2+y2=−m2+6⇔y=m−xx2+y2=−m2+6⇔y=m−xx2+m−x2=−m2+6⇔y=m−xx2+m2−2mx+x2=−m2+6⇔y=m−x2x2−2mx+2m2−6=0⇔y=m−xx2−mx+m2−3=0

Hệ phương trình đã cho có nghiệm ⇔phương trình x2−mx+m2−3=0 có nghiệm

⇔Δ=m2−4m2−3≥0⇔m2−4m2+12≥0⇔12−3m2≥0⇔m2≤4⇔−2≤m≤2

Với m thỏa mãn −2≤m≤2 thì phương trình có nghiệm (x; y). Khi đó ta có:

P=xy+2x+y=12x+y2−x2+y2+2x+y

⇔P=12m2−−m2+6+2m=122m2−6+2m⇔P=m2+2m−3=m2+2m+1−4=m+12−4

Nhận xét:  m+12≥0∀m∈−2;2, dấu bằng xảy ra ⇔m=−1 thỏa mãn điều kiện.

⇒P≥−4.

Dấu bằng xảy ra ⇔m=−1.

Vậy minP=-4 khi m=-1