Theo đề , ta gọi số sách truyện thiếu nhi là x, số sách văn học là y và số sách khoa học là z.
Theo đề , ta có hệ phương trình như sau : 
* x + y + z = 18045 (1) (tổng số sách)
* (x + y)/2 = 3102 (2) (trung bình cộng sách truyện thiếu nhi và sách văn học)
* y - x = 86 (3) (sách văn học nhiều hơn sách thiếu nhi)
=> (2) , Ta có x + y = 6204.
Thay vào (3), ta có y - (6204 - y) = 86.
Vậy ta được 2y = 6286.
Vậy y = 3143.
Thay y = 3143 vào (2), ta có x + 3143 = 6204. ( thay tương tự như trên 
Vậy x = 3061.
=> Từ (1), ta có z = 18045 - x - y = 18045 - 3061 - 3143 = 11841.

Vậy số sách mỗi loại là:

• Sách truyện thiếu nhi: 3061 cuốn.
• Sách văn học: 3143 cuốn.
• Sách khoa học: 11841 cuốn.