Số sách nghệ thuật = Số sách văn học + toán học = 300:2 = 150 quyển
Gọi số sách văn học là x, số sách toán là y
=> 150+x =5y => x-5y=-150 (1)
Tổng 3 loại sách: 150+x+y=300 => x+y=150 (2)
Giải (1), (2) => x= 100; y=50
Vậy số sách nghệ thuật là 150, số sách văn học là 100 và số sách toán là 50