Để giải bài toán này, ta sẽ đặt số người ban đầu là \( x \).

Số tiền mỗi người góp ban đầu là:
\[ \frac{180}{x} \text{ triệu đồng} \]

Nếu có thêm 3 người tham gia, số người sẽ là \( x + 3 \).

Số tiền mỗi người góp khi có thêm 3 người là:
\[ \frac{180}{x + 3} \text{ triệu đồng} \]

Theo đề bài, số tiền mỗi người góp giảm đi 3 triệu đồng khi có thêm 3 người, do đó ta có phương trình:
\[ \frac{180}{x} - \frac{180}{x + 3} = 3 \]

Giải phương trình này:

1. Quy đồng mẫu số:
\[ \frac{180(x + 3) - 180x}{x(x + 3)} = 3 \]
\[ \frac{180x + 540 - 180x}{x(x + 3)} = 3 \]
\[ \frac{540}{x(x + 3)} = 3 \]

2. Nhân cả hai vế với \( x(x + 3) \):
\[ 540 = 3x(x + 3) \]
\[ 540 = 3x^2 + 9x \]

3. Chia cả hai vế cho 3:
\[ 180 = x^2 + 3x \]

4. Chuyển tất cả các hạng tử sang một vế để tạo thành phương trình bậc hai:
\[ x^2 + 3x - 180 = 0 \]

5. Giải phương trình bậc hai này bằng cách sử dụng công thức nghiệm:
\[ x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a} \]
với \( a = 1 \), \( b = 3 \), và \( c = -180 \):
\[ x = \frac{-3 \pm \sqrt{3^2 - 4 \cdot 1 \cdot (-180)}}{2 \cdot 1} \]
\[ x = \frac{-3 \pm \sqrt{9 + 720}}{2} \]
\[ x = \frac{-3 \pm \sqrt{729}}{2} \]
\[ x = \frac{-3 \pm 27}{2} \]

6. Tính hai nghiệm:
\[ x = \frac{-3 + 27}{2} = 12 \]
\[ x = \frac{-3 - 27}{2} = -15 \]

Vì số người không thể âm, nên nghiệm hợp lý là:
\[ x = 12 \]

Vậy ban đầu nhóm bạn trẻ đó có 12 người.