Gọi số học sinh lớp 9A là x (học sinh) x∈ℕ*

Gọi số học sinh lớp 9B là y  (học sinh) y∈ℕ*

Số sách giáo khoa lớp 9A tặng cho trường là: 6x  (quyển sách)

Số sách tham khảo lớp 9A tặng cho trường là: 3x  (quyển sách)

Số sách giáo khoa lớp tặng cho trường là:5y  (quyển sách)

Số sách tham khảo lớp 9B tặng cho trường là : 4y  (quyển sách)

Tổng số sách cả hai lớp tặng cho trường là quyển nên ta có phương trình:

6x+3x+5y+4y=738⇔9x+9y=738⇔x+y=82(1)

Tổng số sách giáo khoa nhiều hơn số sách tham khảo là 166 quyển nên ta có phương trình:

6x+5y−3x+4y=166⇔3x+y=166(2)

Từ (1) và (2) ta có hệ phương trình: x+y=823x+y=166⇔2x=84y=82−x⇔x=42(tm)y=40(tm)

Vậy lớp 9A có 42 học sinh, lớp 9B có 40 học sinh.