Vì vế trái của mỗi phương trình đều không âm và điều kiện ở vế phải của mỗi phương trình là x≠0y≠0 nên ta có x>0y>0

Hệ phương trình đã cho tương đương với: 3x2y=2y2+13y2x=2x2+1       12

Trừ (1) cho (2) vế theo vế, ta được: 3xy(x – y) = –2(x² – y²).

⇔ 3xy(x – y) + 2(x + y)(x – y) = 0.

⇔ (x – y)(3xy + 2x + 2y) = 0 (*)

Vì x > 0, y > 0 nên 3xy + 2x + 2y > 0.

Khi đó (*) tương đương với: x = y.

Thế x = y vào (1), ta được: 3y³ = 2y² + 1.

⇔ 3y³ – 2y² – 1 = 0.

⇔ y = 1 (nhận).

Với x = y, ta có: x = y = 1 (nhận).

Vậy tập nghiệm của hệ phương trình đã cho là: S = {(1; 1)}.