Ta có phương trình:
m³ + m = n³ + n² + n
m³ - n³ = n² + n - m
(m - n)(m² + mn + n²) = n² + n - m
Trường hợp m = n: Khi đó, cả hai vế của phương trình đều bằng 0, và m - n = 0, là một số chính phương (0 = 0²). Vậy trường hợp này thỏa mãn.
Trường hợp m ≠ n: Ta xét hai khả năng:
m > n: Khi đó m - n > 0. Chia cả hai vế cho (m - n) (vì m ≠ n nên m - n ≠ 0), ta có:
m² + mn + n² = (n² + n - m) / (m - n)
Để vế phải là một số nguyên (vì vế trái là số nguyên), thì (n² + n - m) phải chia hết cho (m - n).
m < n: Khi đó m - n < 0. Tuy nhiên, vì m và n là số nguyên dương, và m³ + m = n³ + n² + n, nếu m < n thì vế trái (m³ + m) sẽ nhỏ hơn vế phải (n³ + n² + n), điều này mâu thuẫn. Vậy trường hợp m < n không xảy ra.
Từ m² + mn + n² = (n² + n - m) / (m - n), ta biến đổi vế phải:
(n² + n - m) / (m - n) = -(m - n - n² - n) / (m - n) = -1 + (n² + n) / (m - n)
Vậy ta có:
m² + mn + n² = -1 + (n² + n) / (m - n)
m² + mn + n² + 1 = (n² + n) / (m - n)
(m - n)(m² + mn + n² + 1) = n² + n
m³ - n³ + m - n + m²n - mn² + mn² - n³ + m - n= n² + n
m³ - 2n³ + 2m - 2n + m²n = n² + n
Vì m³ + m = n³ + n² + n, ta thay m³ + m vào phương trình trên:
n³ + n² + n - 2n³ + m - 2n + m²n= n² + n
-n³ - n + m + m²n = 0
m - n = n³ - m²n = n(n²-m²)
m - n = n(n-m)(n+m)
(m - n) + n(m - n)(n + m) = 0
(m - n)(1 + n(n+m)) = 0
Vì m, n là số dương nên 1 + n(n + m) > 0. Để tích bằng 0 thì m-n = 0 suy ra m=n (trường hợp đã xét)
Ta xét: m² + mn + n² = (n² + n - m) / (m - n)
m² + mn + n² = -1 + (n² + n) / (m - n)
(m - n)(m² + mn + n²) = n² + n - m
m³ - n³ + m²n - mn² = n² + n - m
m³ + m - n³ - n = n² - m + m²n - mn²
n² + n - m - n³ - n = n² - m + m²n - mn²
-n³ = m²n - mn²
-n³ = mn(m - n)
n² = m(n-m)
n² + m² - mn = 0
(m-n)² = mn - m² - n²
m² - 2mn + n² = mn - m² - n²
2m² - 3mn + 2n² = 0
Đến đây, ta xét phương trình bậc hai theo m: 2m² - (3n)m + 2n² = 0
Δ = (3n)² - 4.2.2n² = 9n² - 16n² = -7n² < 0
Vậy phương trình vô nghiệm. Điều này mâu thuẫn với giả thiết m, n là số nguyên dương.