Để giải phương trình \( 5x^2 - 3(x+1)^2 = 0 \), ta bắt đầu bằng cách mở rộng biểu thức \( (x+1)^2 \):

\[
(x+1)^2 = x^2 + 2x + 1
\]

Thay vào phương trình, ta có:

\[
5x^2 - 3(x^2 + 2x + 1) = 0
\]

Tiếp theo, nhân \( -3 \) với từng thành phần trong ngoặc:

\[
5x^2 - 3x^2 - 6x - 3 = 0
\]

Rút gọn lại:

\[
(5x^2 - 3x^2) - 6x - 3 = 0
\]

\[
2x^2 - 6x - 3 = 0
\]

Để giải phương trình bậc hai này, ta có thể sử dụng công thức nghiệm:

\[
x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a}
\]

Trong đó \( a = 2 \), \( b = -6 \), và \( c = -3 \).

Tính discriminant \( b^2 - 4ac \):

\[
b^2 - 4ac = (-6)^2 - 4 \cdot 2 \cdot (-3) = 36 + 24 = 60
\]

Giờ, tính nghiệm:

\[
x = \frac{6 \pm \sqrt{60}}{4}
\]

Rút gọn \( \sqrt{60} = \sqrt{4 \cdot 15} = 2\sqrt{15} \):

\[
x = \frac{6 \pm 2\sqrt{15}}{4} = \frac{3 \pm \sqrt{15}}{2}
\]

Vậy nghiệm của phương trình là:

\[
x = \frac{3 + \sqrt{15}}{2} \quad \text{và} \quad x = \frac{3 - \sqrt{15}}{2}
\]