x+y=mx2+y2=−m2+6⇔y=m−xx2+y2=−m2+6⇔y=m−xx2+m−x2=−m2+6⇔y=m−xx2+m2−2mx+x2=−m2+6⇔y=m−x2x2−2mx+2m2−6=0⇔y=m−xx2−mx+m2−3=0

Hệ phương trình đã cho có nghiệm ⇔phương trình x2−mx+m2−3=0 có nghiệm

⇔Δ=m2−4m2−3≥0⇔m2−4m2+12≥0⇔12−3m2≥0⇔m2≤4⇔−2≤m≤2

Với m thỏa mãn −2≤m≤2 thì phương trình có nghiệm (x;y). Khi đó ta có:

P=xy+2x+y=12x+y2−x2+y2+2x+y⇔P=12m2−−m2+6+2m=122m2−6+2m⇔P=m2+2m−3=m2+2m+1−4=m+12−4

Nhận xét: m+12≥0 ∀m∈−2;2, dấu bằng xảy ra ⇔m=-1 thỏa mãn điều kiện

⇒P≥-4

Dấu bằng xảy ra ⇔m=-1

Vậy minP=-4 khi m=-1