Giả sử lúc đầu lớp có x học sinh nam và y học sinh nữ. Theo đề bài, ta có hệ phương trình sau:
y = (5/3)x (1)
(y-1) = (8/5)(x-1) (2)

Từ phương trình (1), ta có x = (3/5)y. Thay vào phương trình (2), ta có:
(y-1) = (8/5)((3/5)y - 1)
5(y-1) = 8(3y-5)
5y - 5 = 24y - 40
19y = 35
y = 35/19

Vậy, lúc đầu lớp có x = (3/5)(35/19) = 21 học sinh nam và y = 35/19 học sinh nữ.