Ta có:

12x² + 6xy + 3y² = 28(x + y)

⇔ 12x² + 6xy + 3y² – 28(x + y) = 0

⇔ 3y² + 2y(3x – 14) + 12x² – 28x = 0                     (1)

Xem (1) là phương trình bậc 2 ẩn y

Thì (1) có nghiệm nguyên khi và chỉ khi ∆’ là số chính phương

∆’ = (3x – 14)² – 3(12x² – 28x) = 9x² – 84x + 196 – 36x² + 84x

     = 196 – 27x² = k² ≥ 0

Suy ra 27x² ≤ 196 hay x² ≤ 7,26

Do đó x ∈ {0; 1; 2; –1; –2}

+) Thay x = 0 vào (1) ta có

3y² + 2y(3 . 0 – 14) + 12 . 0² – 28 . 0 = 0                          

⇔ 3y² – 28y = 0

⇔ y(3y – 28) = 0

⇔y=03y−28=0⇔y=0 (vì y ∈ ℤ)

+) Thay x = 1 vào (1) ta có

3y² + 2y(3 . 1 – 14) + 12 . 1² – 28 . 1 = 0                          

⇔ 3y² – 22y – 16 = 0

⇔ (y – 8)(2y + 3) = 0

⇔y−8=02y+3=0⇔y=8 (vì y ∈ ℤ)

+) Thay x = –1 vào (1) ta có

3y² + 2y[3 . (–1) – 14] + 12 . (–1)² – 28 . (–1) = 0                      

⇔ 3y² – 34y + 40 = 0

⇔ (y – 10)(3y + 4) = 0

⇔y−10=03y+4=0⇔y=10 (vì y ∈ ℤ)

+) Thay x = 2 vào (1) ta có

3y² + 2y(3 . 2 – 14) + 12 . 2² – 28 . 2 = 0                          

⇔ 3y² – 8y – 8 = 0 (không có nghiệm y nguyên)

+) Thay x = –2 vào (1) ta có

3y² + 2y[3 . (–2) – 14] + 12 . (–2)² – 28 . (–2) = 0                      

⇔ 3y² – 20y + 80 = 0 (vô nghiệm)

Vậy phương trình có nghiệm x, y nguyên là (0; 0), (1; 8), (–1; 10).