x⁵ + y² = xy² + 1

⇔ x⁵ – 1 = xy² – y²

⇔ (x – 1)(x⁴ + x³ + x² + x + 1) = y²(x – 1)

⇔ (x - 1)(x⁴ + x³ + x² + x + 1 – y²) = 0

⇔ x=11x4+x3+x2+x+1=y22

Với (1) ta thu được mọi y ∈ ℤ đều thỏa mãn

Vậy (x; y) = (1; y) (y ∈ ℤ)

Với (2):

Phương trình tương đương: 4y² = 4x⁴ + 4x³ + 4x² + 4x + 4

Dùng phương pháp kẹp ta có: (2x² + x + 2)² ≥ (2y)² ≥ (2x² + x)²

Do đó:

2y2=2x2+x+122y2=2x2+x+22⇔4x4+x3+x2+x+1=2x2+x+124x4+x3+x2+x+1=2x2+x+22

⇔x2−2x+3=05x2=0⇔x=0⇒y=±1

Vậy ta có cặp (x; y) = (0; 1), (0; -1).