Gọi số tổ có thể chia là x (tổ).

Vì số nam và số nữ chia đều vào các tổ nên ta có: 24 ⋮ x; 20 ⋮ x.

Do đó, x là ước chung của 24 và 20.

Mặt khác số tổ chia được là nhiều nhất nên x là ước chung lớn nhất của 24 và 20.

Ta có: 20 = 2².5; 24 = 2³.3.

ƯCLN(24; 20) = 2² = 4.

Do đó có thể chia được nhiều nhất 4 tổ.

Số học sinh nam mỗi tổ là:

24 : 4 = 6 (học sinh)

Số học sinh nữ mỗi tổ là:

20 : 4 = 5 (học sinh)

Vậy chia được nhiều nhất 4 tổ, mỗi tổ có 6 học sinh nam và 5 học sinh nữ.