b) Với m>−5thì phương trình đã cho có hai nghiệm phân biệt x1;x2. Theo hệ thức Vi – et ta có :

x1+x2=2m−1=2m−2x1x2=m2−3m−4

Theo đề bài ta có :

A=x12+x22−x1x2=x1+x22−2x1x2−x1x2=x1+x22−3x1x2=4m−12−3m2−3m−4=4m2−2m+1−3m2+9m+12=4m2−8m+4−3m2+9m+12=m2+m+16

A=18⇔m2+m+16=18⇔m2+m−2=0⇔m−1m+2=0⇔m=1m=−2

Vậy m∈−2;1thỏa mãn bài toán