Để giải bài toán này, chúng ta cần làm các bước sau đây:

**Bước 1: Tính các hệ số của phương trình bậc 2**

Phương trình đã cho là:
\[
x^2 - 2(m - 1)x + (m^2 - 4m + 5) = 0
\]

Ta có:
- a = 1
- b = -2(m - 1)
- c = m^2 - 4m + 5

Theo định luật Viète, ta có:
\[
x_1 + x_2 = -\frac{b}{a} = 2(m - 1)
\]
\[
x_1 x_2 = \frac{c}{a} = m^2 - 4m + 5
\]

**Bước 2: Biểu diễn điều kiện thỏa mãn**

Điều kiện đã cho là:
\[
x_1^2 x_2 + x_1 x_2^2 - 3x_1 - 3x_2 = 0
\]
Ta có thể viết lại như sau:
\[
x_1 x_2 (x_1 + x_2) - 3(x_1 + x_2) = 0
\]
\[
(x_1 x_2 - 3)(x_1 + x_2) = 0
\]

Điều này có hai khả năng:
1. \(x_1 + x_2 = 0\)
2. \(x_1 x_2 - 3 = 0\)

**Bước 3: Xét từng khả năng**

**Khả năng 1**: \(x_1 + x_2 = 0\)

Nếu \(x_1 + x_2 = 0\), thì:
\[
2(m - 1) = 0 \Rightarrow m - 1 = 0 \Rightarrow m = 1
\]

Ta sẽ kiểm tra lại với \(m = 1\):
\[
x^2 - 2(1 - 1)x + (1^2 - 4*1 + 5) = 0
\]
\[
x^2 + 2 = 0
\]
Phương trình này không có nghiệm thực.

**Khả năng 2**: \(x_1 x_2 = 3\)

Bây giờ, ta có điều kiện mới:
\[
m^2 - 4m + 5 - 3 = 0 \Rightarrow m^2 - 4m + 2 = 0
\]

Giải phương trình bậc 2 này bằng công thức nghiệm:
\[
m = \frac{4 \pm \sqrt{(-4)^2 - 4 \cdot 1 \cdot 2}}{2 \cdot 1} = \frac{4 \pm \sqrt{16 - 8}}{2} = \frac{4 \pm \sqrt{8}}{2} = \frac{4 \pm 2\sqrt{2}}{2} = 2 \pm \sqrt{2}
\]

Vậy \(m\) có thể bằng \(2 + \sqrt{2}\) hoặc \(2 - \sqrt{2}\).

**Bước 4: Kết luận**

Kết quả cuối cùng cho \(m\) là:
\[
m = 2 + \sqrt{2} \quad \text{hoặc} \quad m = 2 - \sqrt{2}
\]

Các giá trị này sẽ thỏa mãn điều kiện của bài toán.