Gọi \( a \) là số học sinh lớp 5A và \( b \) là số học sinh lớp 5B. Theo đề bài, ta có phương trình tổng số học sinh của hai lớp:

\[ a + b = 51 \]

Sau khi chọn 1/4 số học sinh lớp 5A và 1/3 số học sinh lớp 5B đi tập văn nghệ, số học sinh còn lại của hai lớp bằng nhau. Do đó, ta có phương trình:

\[ a - \frac{1}{4}a = b - \frac{1}{3}b \]

Đơn giản hóa phương trình trên:

\[ \frac{3}{4}a = \frac{2}{3}b \]

Nhân cả hai vế với 12 để khử mẫu số:

\[ 9a = 8b \]

Từ đây, ta có:

\[ a = \frac{8}{9}b \]

Thay \( a = \frac{8}{9}b \) vào phương trình \( a + b = 51 \):

\[ \frac{8}{9}b + b = 51 \]

\[ \frac{17}{9}b = 51 \]

Nhân cả hai vế với 9:

\[ 17b = 459 \]

Chia cả hai vế cho 17:

\[ b = 27 \]

Thay \( b = 27 \) vào phương trình \( a + b = 51 \):

\[ a + 27 = 51 \]

\[ a = 24 \]

Vậy số học sinh lớp 5A là 24 và số học sinh lớp 5B là 27.

Số học sinh lớp 5A tham gia tập văn nghệ là:

\[ \frac{1}{4} \times 24 = 6 \]

Số học sinh lớp 5B tham gia tập văn nghệ là:

\[ \frac{1}{3} \times 27 = 9 \]

Vậy số học sinh mỗi lớp tham gia tập văn nghệ là:
- Lớp 5A: 6 học sinh
- Lớp 5B: 9 học sinh