a) Thay m = -2 vào phương trình (*) ta được:
x² - 2(-2+1)x + (-2)² + 5(-2) - 6 < 0
x² + 2x - 4 + (-10) - 6 < 0
x² + 2x - 20 < 0
(x - 4)(x + 5) < 0

Vậy phương trình có nghiệm trong khoảng (-5, 4).

b) Ta có phương trình bậc hai có dạng ax² + bx + c = 0 với a = 1, b = -2(m+1), c = m² + 5m - 6.
Theo định lý Viète, ta có:
x1 + x2 = -b/a = 2(m+1)
x1x2 = c/a = m² + 5m - 6

Ta cần tìm x1² + x2(x1 + x2) = 10
Thay x1 + x2 = 2(m+1) vào biểu thức cần tìm, ta được:
x1² + x2(x1 + x2) = x1² + x2(2(m+1)) = x1² + 2x2(m+1)

Ta có:
x1² + 2x2(m+1) = (x1 + x2)² - 2x1x2 = (2(m+1))² - 2(m² + 5m - 6)
= 4(m² + 2m + 1) - 2m² - 10m + 12
= 4m² + 8m + 4 - 2m² - 10m + 12
= 2m² - 2m + 16

Để biểu thức trên bằng 10, ta giải phương trình:
2m² - 2m + 16 = 10
2m² - 2m + 6 = 0
m² - m + 3 = 0

Phương trình trên không có nghiệm vì delta < 0. Điều này có nghĩa là không tồn tại giá trị của m để biểu thức x1² + x2(x1 + x2) = 10.