Để giải phương trình \( 5x^2 - 3(x+1)^2 = 0 \), chúng ta sẽ làm theo các bước sau:

1. Mở rộng biểu thức \( (x+1)^2 \):

\[
(x+1)^2 = x^2 + 2x + 1
\]

2. Thay vào phương trình:

\[
5x^2 - 3(x^2 + 2x + 1) = 0
\]

3. Phân phối số \(-3\):

\[
5x^2 - 3x^2 - 6x - 3 = 0
\]

4. Gộp các hạng tử lại:

\[
(5x^2 - 3x^2) - 6x - 3 = 0
\]
\[
2x^2 - 6x - 3 = 0
\]

5. Phân tích phương trình bậc hai \( 2x^2 - 6x - 3 = 0 \) bằng cách sử dụng công thức nghiệm:

\[
x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a}
\]

Trong đó \( a = 2 \), \( b = -6 \), và \( c = -3 \).

6. Tính discriminant \( b^2 - 4ac \):

\[
b^2 - 4ac = (-6)^2 - 4 \cdot 2 \cdot (-3)
\]
\[
= 36 + 24 = 60
\]

7. Tính các nghiệm:

\[
x = \frac{6 \pm \sqrt{60}}{4}
\]
\[
\sqrt{60} = \sqrt{4 \cdot 15} = 2\sqrt{15}
\]
\[
x = \frac{6 \pm 2\sqrt{15}}{4}
\]
\[
x = \frac{3 \pm \sqrt{15}}{2}
\]

Vậy nghiệm của phương trình là:

\[
x_1 = \frac{3 + \sqrt{15}}{2}, \quad x_2 = \frac{3 - \sqrt{15}}{2}
\]

**Kết luận:**

Phương trình \( 5x^2 - 3(x+1)^2 = 0 \) có hai nghiệm là \( x_1 = \frac{3 + \sqrt{15}}{2} \) và \( x_2 = \frac{3 - \sqrt{15}}{2} \).