Để giải bài toán này, ta thực hiện các bước như sau:

### a) Thu gọn và xác định bậc của đa thức \( P \)

Đa thức được cho là:
\[
P = x^3 - x^2y + 3xy^2 - y^2 - 2xy
\]

**Bước 1: Nhóm các hạng tử**

Ta có:
\[
P = x^3 + (-x^2y - 2xy + 3xy^2 - y^2)
\]

**Bước 2: Gộp hạng tử**

Ta có thể tái cấu trúc hạng tử của \( P \) như sau:
\[
P = x^3 + (-x^2y + 3xy^2 - 2xy - y^2) = x^3 + xy^2 - (x^2 + 2y)x - y^2
\]

Đơn giản hóa đa thức hơn nữa:
\[
P = x^3 + xy^2 - y^2 - x^2y - 2xy
\]

**Bước 3: Tính bậc của đa thức**

- Các hạng tử: \( x^3 \), \( -x^2y \), \( 3xy^2 \), \( -y^2 \), \( -2xy \).
- Bậc cao nhất là \( 3 \) (hạng tử \( x^3 \)).
- Vậy **bậc của đa thức** \( P \) là **3**.

### b) Tìm \( x \), biết \( P = 125; y = 2 \)

**Bước 4: Thay giá trị \( y \) vào \( P \)**

Thay \( y = 2 \) vào P:
\[
P = x^3 - x^2(2) + 3x(2^2) - (2^2) - 2x(2)
\]

Sau đó tính từng phần:
\[
P = x^3 - 2x^2 + 3x \cdot 4 - 4 - 4x = x^3 - 2x^2 + 12x - 4 - 4x
\]
\[
P = x^3 - 2x^2 + 8x - 4
\]

**Bước 5: Thiết lập phương trình**

Đặt \( P = 125 \):
\[
x^3 - 2x^2 + 8x - 4 = 125
\]
\[
x^3 - 2x^2 + 8x - 129 = 0
\]

**Bước 6: Giải phương trình**

Sử dụng phương pháp thử nghiệm các giá trị nguyên hoặc công cụ giải phương trình. Ta có thể thử giá trị khác nhau cho \( x \).

Giả sử thử \( x = 5 \):

\[
P = 5^3 - 2(5^2) + 8(5) - 129
\]
\[
= 125 - 50 + 40 - 129 = -14 \, (không phải)
\]

Thử \( x = 6 \):
\[
P = 6^3 - 2(6^2) + 8(6) - 129
\]
\[
= 216 - 72 + 48 - 129 = 63 \, (không phải)
\]

Thử \( x = 7 \):
\[
P = 7^3 - 2(7^2) + 8(7) - 129
\]
\[
= 343 - 98 + 56 - 129 = 172 \, (không phải)
\]

Thử \( x = 4 \):
\[
P = 4^3 - 2(4^2) + 8(4) - 129
\]
\[
= 64 - 32 + 32 - 129 = -65 \, (không phải)
\]

Sau khi thử một số giá trị này, chúng ta sẽ tìm được giá trị phù hợp hoặc có thể sử dụng công cụ giải phương trình.

Kết luận: Nếu cần chính xác hơn, có thể dùng máy tính hoặc phần mềm giải nghiệm!