Để tìm giá trị của \( m \) sao cho phương trình \( x^2 - 2(m-1)x + m^2 - 3m = 0 \) có nghiệm \( x_1 \) và \( x_2 \) thỏa mãn \( x_1^2 + x_2^2 = 8 \), ta thực hiện các bước sau:

1. **Sử dụng định lý Vi-ét**:
Theo định lý Vi-ét, nếu \( x_1 \) và \( x_2 \) là nghiệm của phương trình bậc hai \( ax^2 + bx + c = 0 \), thì:
\[
x_1 + x_2 = -\frac{b}{a} \quad \text{và} \quad x_1 x_2 = \frac{c}{a}
\]
Ở đây, phương trình của chúng ta là:
\[
x^2 - 2(m-1)x + m^2 - 3m = 0
\]
Do đó:
\[
x_1 + x_2 = 2(m-1)
\]
\[
x_1 x_2 = m^2 - 3m
\]

2. **Biểu thức \( x_1^2 + x_2^2 \)**:
Ta có công thức:
\[
x_1^2 + x_2^2 = (x_1 + x_2)^2 - 2x_1 x_2
\]
Thay các giá trị từ định lý Vi-ét vào:
\[
x_1^2 + x_2^2 = [2(m-1)]^2 - 2(m^2 - 3m)
\]
\[
x_1^2 + x_2^2 = 4(m-1)^2 - 2(m^2 - 3m)
\]

3. **Giải phương trình**:
Ta cần \( x_1^2 + x_2^2 = 8 \), do đó:
\[
4(m-1)^2 - 2(m^2 - 3m) = 8
\]
Giải phương trình này:
\[
4(m^2 - 2m + 1) - 2(m^2 - 3m) = 8
\]
\[
4m^2 - 8m + 4 - 2m^2 + 6m = 8
\]
\[
2m^2 - 2m + 4 = 8
\]
\[
2m^2 - 2m + 4 - 8 = 0
\]
\[
2m^2 - 2m - 4 = 0
\]
Chia cả hai vế cho 2:
\[
m^2 - m - 2 = 0
\]
Giải phương trình bậc hai này:
\[
m^2 - m - 2 = 0
\]
\[
\Delta = (-1)^2 - 4 \cdot 1 \cdot (-2) = 1 + 8 = 9
\]
\[
m = \frac{-(-1) \pm \sqrt{9}}{2 \cdot 1} = \frac{1 \pm 3}{2}
\]
\[
m = \frac{1 + 3}{2} = 2 \quad \text{hoặc} \quad m = \frac{1 - 3}{2} = -1
\]

Vậy, các giá trị của \( m \) để phương trình có nghiệm \( x_1, x_2 \) thỏa mãn \( x_1^2 + x_2^2 = 8 \) là \( m = 2 \) hoặc \( m = -1 \).