Gọi số học sinh của lớp 9A là x (học sinh), số học sinh lớp 9B là y (học sinh) (ĐK: x,y∈N∗x,y∈N∗)

Số sách giáo khoa mà lớp 9A ủng hộ là 6x (quyển) và số sách tham khảo mà lớp 9A ủng hộ là 3x (quyển)

Số sách giáo khoa mà lớp 9B ủng hộ là 5y (quyển) và số sách tham khảo mà lớp 9A ủng hộ là 4y (quyển)

Từ đó ta có:

Số sách giáo khoa cả hai lớp đã ủng hộ là 6x+5y6x+5y (quyển)

Số sách tham khảo cả hia lớp đã ủng hộ là 3x+4y3x+4y (quyển)

Vì cả hai lớp ủng hộ 738 quyển nên ta có phương trình6x+5y+3x+4y=9x+9y=738(1)6x+5y+3x+4y=9x+9y=738(1)

Và số sách giáo khoa ủng hộ nhiều hơn số sách tham khảo là 166 quyển nên ta có phương trình (6x+5y)−(3x+4y)=3x+y=166(2)(6x+5y)−(3x+4y)=3x+y=166(2)

Từ (1) và (2) ta có hệ phương trình 

{9x+9y=7383x+y=166⇔{x+y=823x+y=166⇔{2x=84y=82−x⇔{x=42(tm)y=40(tm){9x+9y=7383x+y=166⇔{x+y=823x+y=166⇔{2x=84y=82−x⇔{x=42(tm)y=40(tm)

Vậy số học sinh của lớp 9A là 42 học sinh, số học sinh lớp 9B là 40 học sinh.