Δ = (m + 1)^2 - 4.2.(m + 3) = m^2 - 6m - 23 
Để PT có 2 nghiệm phân biệt thì Δ > 0 <=> m^2 - 6m - 23  > 0 <=> m < 3 - 4√2 hoặc m > 3 + 4√2
Theo định lý Vi-ét:
x1 + x2 = -(m + 1)/2 (1)
x1.x2 = (m + 3)/2 (2)
Ta có:
x1^2 - 3x1.x2 + 2x2^2 = 0
<=> (x1 - x2)(x1 - 2x2) = 0
<=> x1 = x2 hoặc x1 = 2x2
+) x1 = x2
Thay vào (1) và (2) được: 2x1 = -(m + 1)/2; x1^2 = (m + 3)/2
=> x1 = -(m + 1)/4; x1^2 = (m + 3)/2
=> (m + 1)^2/16 = (m + 3)/2
<=> m = 3 + 4√2 hoặc m = 3 - 4√2 (loại vì m < 3 - 4√2 hoặc m > 3 + 4√2)
+) x1 = 2x2
Thay vào (1) và (2) được: 3x2 = -(m + 1)/2; 2x2^2 = (m + 3)/2
=> x2 = -(m + 1)/6; x2^2 = (m + 3)/4
=> (m + 1)^2/36 = (m + 3)/4
<=> m = (7 + 3√17)/2 hoặc m = (7 - 3√17)/2 (thỏa mãn)
Vậy: m = (7 + 3√17)/2 hoặc m = (7 - 3√17)/2