Để giải hệ phương trình bằng phương pháp thế, ta làm như sau:

Hệ phương trình đã cho là:
\[
\begin{cases}
x^2(y + 1)(x + y + 1) = 3x^2 - 4x + 1 \\
xy + x + 1 = x^2
\end{cases}
\]

Bước 1: Từ phương trình thứ hai, ta giải y theo x:
\[
xy + x + 1 = x^2 \implies y = \frac{x^2 - x - 1}{x}
\]

Bước 2: Thế y vào phương trình thứ nhất:
\[
x^2 \left( \frac{x^2 - x - 1}{x} + 1 \right) \left( x + \frac{x^2 - x - 1}{x} + 1 \right) = 3x^2 - 4x + 1
\]

Đơn giản hóa biểu thức:
\[
x^2 \left( \frac{x^2 - x - 1 + x}{x} \right) \left( x + \frac{x^2 - x - 1 + x}{x} \right) = 3x^2 - 4x + 1
\]
\[
x^2 \left( \frac{x^2 - 1}{x} \right) \left( x + \frac{x^2 - 1}{x} \right) = 3x^2 - 4x + 1
\]
\[
x^2 \left( x - \frac{1}{x} \right) \left( x + x - \frac{1}{x} \right) = 3x^2 - 4x + 1
\]
\[
x^2 \left( x - \frac{1}{x} \right) \left( 2x - \frac{1}{x} \right) = 3x^2 - 4x + 1
\]
\[
x^2 \left( x^2 - 1 \right) \left( 2x^2 - 1 \right) = 3x^2 - 4x + 1
\]
\[
x^2 \left( 2x^4 - x^2 - 2x^2 + 1 \right) = 3x^2 - 4x + 1
\]
\[
x^2 \left( 2x^4 - 3x^2 + 1 \right) = 3x^2 - 4x + 1
\]
\[
2x^6 - 3x^4 + x^2 = 3x^2 - 4x + 1
\]
\[
2x^6 - 3x^4 - 2x^2 + 4x - 1 = 0
\]

Bước 3: Giải phương trình bậc 6 này để tìm x. Sau đó thế x vào phương trình \( y = \frac{x^2 - x - 1}{x} \) để tìm y.

Phương trình bậc 6 này khá phức tạp và có thể cần sử dụng các phương pháp giải phương trình bậc cao hoặc công cụ tính toán để tìm nghiệm.

Tuy nhiên, ta có thể thử một số giá trị của x để tìm nghiệm cụ thể. Ví dụ, nếu x = 1:
\[
2(1)^6 - 3(1)^4 - 2(1)^2 + 4(1) - 1 = 0
\]
\[
2 - 3 - 2 + 4 - 1 = 0
\]
Vậy x = 1 là một nghiệm.

Thế x = 1 vào phương trình \( y = \frac{x^2 - x - 1}{x} \):
\[
y = \frac{1^2 - 1 - 1}{1} = \frac{1 - 1 - 1}{1} = -1
\]

Vậy nghiệm của hệ phương trình là \( (x, y) = (1, -1) \).