a. Khi m=5, ta có: x²-(2m+1)x+m²-1=0 => x²-(2.5+1)x+5²-1=0 => x²-7.5x+24=0
Giải pt này ta được: x1=3, x2=8
b. Để pt (1) có 2 nghiệm x1;x2 thoả mãn đk: (x²1-2mx1+m²)(x2+4)=4
Ta có: (x²1-2mx1+m²)(x2+4)=4
=> x²1x2+4x²1-2mx1x2-8mx1+m²x2+4m²-4=4
=> x²1x2+4x²1-2mx1x2-8mx1+m²x2+4m²-8=0
Áp dụng định lý Vi-ét, ta có:
x1+x2=2m+1 và x1x2=m²-1
Thay vào phương trình trên ta được:
x²1x2+4x²1-2mx1x2-8mx1+m²x2+4m²-8=0
<=> (x1+x2)²-2x1x2+4(x1²+x2²)-2mx1(x1+x2)+m²x2+4m²-8=0
<=> (2m+1)²-2(m²-1)+4(2x1²+2m²-2mx1)+2m(2m+1)-2mx1(2m+1)+m²x2+4m²-8=0
<=> 2x1²+(m²+2m-3)x1+m²-4=0
Để pt này có 2 nghiệm x1;x2 ta có: Δ = (m+1)(m-3) ≥ 0
=> m ≤ -1 hoặc m ≥ 3
Vậy tất cả các giá trị của tham số m để pt (1) có 2 nghiệm x1;x2 thoả mãn đk: (x²1-2mx1+m²)(x2+4)=4 là m ≤ -1 hoặc m ≥ 3.