Để giải hệ phương trình này, ta có thể sử dụng phương pháp loại trừ hoặc phương pháp thế.

Phương pháp loại trừ:
- Ta nhân đôi cả hai vế của phương trình thứ nhất để tạo thành một số hạng chứa x^2 và một số hạng chứa y^2: 2x^2 + 2y^2 + 4x - 2y = 6.
- Sau đó, ta trừ phương trình thứ hai từ phương trình trên để loại bỏ số hạng chứa y: 2x^2 + 2y^2 + 4x - 2y - (2xy + 3y) = 6 - 5.
- Rút gọn phương trình trên ta được: 2x^2 + 2y^2 + 4x - 2y - 2xy - 3y = 1.
- Tiếp theo, ta nhóm các số hạng chứa x và y lại: 2x^2 + (4 - 2y)x + (2y^2 - 2y - 3y) = 1.
- Đặt phương trình trên dưới dạng đa thức bậc hai theo x: 2x^2 + (4 - 2y)x + (2y^2 - 5y) = 1.
- Để giải phương trình này, ta sẽ tìm các giá trị của x dựa trên giá trị của y.

Phương pháp thế:
- Ta giải phương trình thứ hai để tìm giá trị của x: 2xy + 3y = 5 => x = (5 - 3y) / (2y).
- Thay giá trị của x vào phương trình thứ nhất: (5 - 3y)^2 / (2y)^2 + y^2 + 2(5 - 3y) / (2y) - y = 3.
- Rút gọn phương trình trên ta được: (25 - 30y + 9y^2) / (4y^2) + y^2 + (10 - 6y) / y - y = 3.
- Nhân cả hai vế của phương trình trên với 4y^2 để loại bỏ mẫu số: 25 - 30y + 9y^2 + 4y^4 + 4y^2(10 - 6y) - 4y^3 = 12y^2.
- Rút gọn phương trình trên ta được: 4y^4 - 4y^3 + 25y^2 - 30y + 40 = 12y^2.
- Đặt phương trình trên dưới dạng đa thức bậc tư theo y: 4y^4 - 4y^3 + 13y^2 - 30y + 40 = 0.
- Để giải phương trình này, ta có thể sử dụng phương pháp khai căn hoặc phương pháp chia tỉ lệ.

Tuy nhiên, phương trình trên là một phương trình bậc tư phức tạp và không thể giải bằng phương pháp đơn giản.