Gọi số học sinh nam tham gia thi tuyển là \( n \) và số học sinh nữ là \( m \). Theo đề bài, ta có hệ phương trình sau:

1. \( m = \frac{2}{3}n \) (số học sinh nữ bằng \( \frac{2}{3} \) số học sinh nam)
2. \( m = \frac{3}{5}(n + 10) \) (nếu có thêm 10 học sinh nam thì số học sinh nữ bằng \( \frac{3}{5} \) số học sinh nam)

Bây giờ, ta thay thế \( m \) từ phương trình 1 vào phương trình 2:

\[
\frac{2}{3}n = \frac{3}{5}(n + 10)
\]

Tiến hành nhân chéo để giải phương trình:

\[
2 \cdot 5n = 3 \cdot 3(n + 10)
\]

Sử dụng phép nhân hai bên:

\[
10n = 9(n + 10)
\]
\[
10n = 9n + 90
\]

Giải phương trình tìm \( n \):

\[
10n - 9n = 90
\]
\[
n = 90
\]

Bây giờ thay giá trị \( n \) vào phương trình 1 để tìm \( m \):

\[
m = \frac{2}{3}n = \frac{2}{3} \times 90 = 60
\]

Vậy số học sinh nam là \( 90 \) và số học sinh nữ là \( 60 \). Tổng số học sinh tham gia thi tuyển là:

\[
n + m = 90 + 60 = 150
\]

Do đó, có 150 học sinh tham gia thi tuyển.