Để giải bài toán này, chúng ta làm theo từng bước như sau:

### 1) Tìm \( m \) để phương trình có hai nghiệm

Phương trình có dạng:

\[
x^2 - 2(m + 1)x + (2m + 10) = 0
\]

Để phương trình này có hai nghiệm phân biệt, điều kiện cần thiết là:

\[
\Delta > 0
\]

Trong đó, \(\Delta\) là Delta của phương trình bậc hai, được tính bằng:

\[
\Delta = b^2 - 4ac
\]

Áp dụng cho phương trình của chúng ta:

\[
b = -2(m + 1) \quad và \quad a = 1, \quad c = 2m + 10
\]

Tính \(\Delta\):

\[
\Delta = [-2(m + 1)]^2 - 4 \cdot 1 \cdot (2m + 10) = 4(m + 1)^2 - 4(2m + 10)
\]

Giải phương trình:

\[
\Delta = 4[(m + 1)^2 - (2m + 10)] > 0
\]

\[
(m + 1)^2 - 2m - 10 > 0
\]

Mở rộng biểu thức:

\[
m^2 + 2m + 1 - 2m - 10 > 0
\]

\[
m^2 - 9 > 0
\]

Phương trình này có nghiệm khi:

\[
m < -3 \quad \text{hoặc} \quad m > 3
\]

### 2) Tìm giá trị nhỏ nhất của \( P = x_1^2 + x_2^2 + 8x_1x_2 \)

Dựa vào định lý Viète, ta có:

- \( x_1 + x_2 = 2(m + 1) \)
- \( x_1 x_2 = 2m + 10 \)

Giá trị \( P \) có thể viết lại như sau:

\[
P = (x_1 + x_2)^2 - 2x_1x_2 + 8x_1x_2 = (x_1 + x_2)^2 + 6x_1x_2
\]

Thay vào các biểu thức:

\[
P = [2(m + 1)]^2 + 6(2m + 10)
\]

Tính giá trị:

\[
P = 4(m + 1)^2 + 12m + 60
\]

Khai thác \( P \):

\[
P = 4(m^2 + 2m + 1) + 12m + 60 = 4m^2 + 8m + 4 + 12m + 60 = 4m^2 + 20m + 64
\]

Để tìm giá trị nhỏ nhất, tính đạo hàm \( P \):

\[
P' = 8m + 20
\]

Giải phương trình \( P' = 0 \):

\[
8m + 20 = 0 \implies m = -\frac{20}{8} = -2.5
\]

Tại \( m = -2.5 \) thì:

\[
\text{Thay vào }\Delta: (-2.5 < -3) \text{ hay } (-2.5 > 3) \text{ đều không thỏa mãn}
\]

Nên ta chỉ xét biên:

1. Khi \( m \to -3 \)

Tính \( P = 4(-3)^2 + 20(-3) + 64 \)

2. Khi \( m \to 3 \)

Tính \( P = 4(3)^2 + 20(3) + 64 \).

**Cuối cùng, ta so sánh để tìm giá trị nhỏ nhất của \( P \).**

### Tóm tắt:
- Giá trị \( m \) thỏa mãn là \( m < -3 \) hoặc \( m > 3 \).
- Tính \( P \) sẽ đưa ra giá trị nhỏ nhất tương ứng với \( m \).