Để giải bài tập này theo định lý Viète, trước tiên ta có phương trình:

\[
x^2 - 2(m - 1)x - 5 = 0
\]

### a) Chứng minh phương trình luôn có 2 nghiệm phân biệt với mọi \( m \).

Phương trình bậc hai có dạng:

\[
ax^2 + bx + c = 0
\]

Trong trường hợp này, ta có:

- \( a = 1 \)
- \( b = -2(m - 1) \)
- \( c = -5 \)

Để phương trình có 2 nghiệm phân biệt, điều kiện cần là \(\Delta > 0\), trong đó:

\[
\Delta = b^2 - 4ac
\]

Thay các giá trị vào công thức \(\Delta\):

\[
\Delta = [-2(m - 1)]^2 - 4 \cdot 1 \cdot (-5) = 4(m - 1)^2 + 20
\]

Ta nhận thấy rằng:

\[
4(m - 1)^2 \geq 0 \quad \text{(vì bình phương luôn không âm)}
\]

Do đó, \(\Delta\) luôn lớn hơn hoặc bằng 20, cụ thể:

\[
\Delta = 4(m - 1)^2 + 20 > 0
\]

Vậy phương trình luôn có 2 nghiệm phân biệt với mọi \( m \).

### b) Tìm \( m \) để phương trình có 2 nghiệm phân biệt \( x_1, x_2 \) và \( x_1^2 + x_2^2 + x_1 x_2 = -20 \).

Theo định lý Viète, ta có:

- \( x_1 + x_2 = 2(m - 1) \)
- \( x_1 x_2 = -5 \)

Ta cần tính \( x_1^2 + x_2^2 \):

\[
x_1^2 + x_2^2 = (x_1 + x_2)^2 - 2x_1 x_2
\]

Thay thế các giá trị:

\[
x_1^2 + x_2^2 = [2(m - 1)]^2 - 2(-5) = 4(m - 1)^2 + 10
\]

Theo điều kiện bài toán:

\[
x_1^2 + x_2^2 + x_1 x_2 = -20
\]

Thay \( x_1 x_2 \):

\[
4(m - 1)^2 + 10 - 5 = -20
\]

Rút gọn phương trình:

\[
4(m - 1)^2 + 5 = -20
\]

\[
4(m - 1)^2 = -25
\]

Vì \( 4(m - 1)^2\) không bao giờ âm (luôn lớn hơn hoặc bằng 0), phương trình này không có nghiệm thực.

Vậy không tồn tại giá trị \( m \) nào để đảm bảo điều kiện đó là \( x_1^2 + x_2^2 + x_1 x_2 = -20\).