3x^2 +10xy + 8y^2 = 96 
<=> 3x^2 + 6 xy + 4xy +8y^2=96 
<=> 3x(x+2y) + 4y(x+2y) = 96 
<=> (3x+4y)(x+2y) = 96 
Mặt khác, ta thấy x+2y đồng tính chẵn lẻ với x, 3x+4y = x+2(x+2y) đồng tính chẵn lẻ với x, do đó cặp nghiệm (3x+4y, x+2y) sẽ đồng tính chẵn lẻ. Dễ dàng thấy 96 = 2^5 *3, do đó các cặp nghiệm có khả năng có nghiệm chỉ là các cặp nghiệm chẵn. 
Các cặp nghiệm chẵn (3x+4y, x+2y) sẽ là (2,48), (4,24), (6,16), (8,12), (12, 8), (16,6), (24,4), (48,2) và các cặp nghiệm âm tương ứng 
Giải các hệ phương trình (3x+4y, x+2y) tương ứng với các cặp nghiệm chẵn trên sẽ cho kết quả nghiệm nguyên của bài toán.