Theo đề bài, số học sinh nam bằng 4/5 số học sinh nữ. Đặt số học sinh nữ là x, số học sinh nam là 4/5x.

Tổng số học sinh tam dự là 171, ta có phương trình:
x + 4/5x = 171

Tổng số học sinh tam dự là 9/5x = 171

Đặt 9/5x = 171, ta có:
x = 171 * 5/9 = 95

Số học sinh nữ là 95, số học sinh nam là 4/5 * 95 = 76.

Vậy số học sinh nữ là 95, số học sinh nam là 76.