a) Khi m = 0 ta có phương trình x2−2x−3=0

Δ=−22+12=16⇒Δ=4.

Phương trình có hai nghiệm phân biệt

x1=2+42=3,  x2=2−42=−1.

b) Ta có Δ=−22−4m−3=−4m+16

Để phương trình có hai nghiệm thì Δ≥0⇔−4m+16≥0⇔m≤4.

Theo hệ thức Vi-et ta có x1+x2=2x1x2=m−3.

Ta có P=x12+x22+x1x22=x1+x22−2x1x2+x1x22=22−2m−3+m−32

P=m2−8m+19=m−42+3≥3.

Dấu “=” xảy ra khi m = 4

Vậy giá trị nhỏ nhất của P là 3 khi m = 4