Tập hợp \( M = \{ x \in \mathbb{R} | x^2 - 3x + m - 1 = 0 \} \) có hai phân tử phân biệt \( x_1, x_2 \) và tổng bình phương hai phân tử bằng 5

Để giải bài toán này, chúng ta cần xác định mệnh đề của tập hợp \( M = \{ x \in \mathbb{R} | x^2 - 3x + m - 1 = 0 \} \).

1. **Điều kiện có hai nghiệm phân biệt**:
Để phương trình bậc hai \( x^2 - 3x + (m - 1) = 0 \) có hai nghiệm phân biệt, điều kiện cần thiết là:

\[
\Delta = b^2 - 4ac > 0
\]

Ở đây, \( a = 1 \), \( b = -3 \), và \( c = m - 1 \). Tính delta:

\[
\Delta = (-3)^2 - 4 \cdot 1 \cdot (m - 1) = 9 - 4(m - 1) = 9 - 4m + 4 = 13 - 4m
\]

Do đó, yêu cầu để có 2 nghiệm phân biệt là:

\[
13 - 4m > 0 \Rightarrow 4m < 13 \Rightarrow m < \frac{13}{4}
\]

2. **Bất đẳng thức tổng bình phương**:
Ta biết rằng tổng của hai nghiệm \( x_1 + x_2 = 3 \) từ công thức Viète. Áp dụng công thức tổng bình phương:

\[
x_1^2 + x_2^2 = (x_1 + x_2)^2 - 2x_1x_2
\]

Biến đổi theo Viète:

\[
x_1x_2 = c/a = (m - 1)
\]

Thay vào biểu thức:

\[
x_1^2 + x_2^2 = 3^2 - 2(m - 1) = 9 - 2m + 2 = 11 - 2m
\]

Theo đề bài, tổng bình phương của hai nghiệm bằng 5:

\[
11 - 2m = 5
\]

Giải phương trình trên:

\[
-2m = 5 - 11 \Rightarrow -2m = -6 \Rightarrow m = 3
\]

3. **Tổng hợp lại**:
Với \( m = 3 \), ta kiểm tra điều kiện \( m < \frac{13}{4} \):

\[
\frac{13}{4} = 3.25 > 3
\]

Điều này thỏa mãn. Vậy giá trị của \( m \) mà bài toán yêu cầu là:

\[
\boxed{3}
\]