Gọi x, y lần lượt là số học sinh của lớp bóng rổ và lớp bóng chuyền (x ∈ ℕ*, y ∈ ℕ*, x < 85, y < 85).

Do trường có 85 học sinh nên ta có: x + y = 85. (1)

Số học sinh lớp bóng chuyền sau khi chuyển 25 học sinh từ lớp bóng rổ sang là: y + 25 (học sinh).

Lúc này, số học sinh lớp bóng rổ còn lại là: x ‒ 25 (học sinh).

Theo bài, sau khi chuyển 25 học sinh từ lớp bóng rổ sang lớp bóng chuyền thì số học sinh của lớp bóng chuyền bằng 125 số học sinh của lớp bóng rổ nên ta có phương trình:

y+25=125x−25

5(y + 25) = 12(x – 25)

5y + 125 = 12x – 300

12x – 5y = 425. (2)

Từ (1) và (2) ta có hệ phương trình: x+y=8512x–5y=425

Nhân hai vế phương trình (1) với 5, ta được: 5x+5y=42512x–5y=425

Cộng từng vế hai phương trình của hệ, ta được:

17x = 850, suy ra x = 50.

Thay x = 50 vào phương trình (1), ta được:

50 + y = 85, do đó y = 35.

Ta thấy x = 50, y = 35 thoả mãn điều kiện.

Vậy lớp bóng rổ có 50 học sinh và lớp bóng chuyền có 35 học sinh.