Để chứng minh rằng

\[
P = (a - b)^2,
\]

ta bắt đầu từ biểu thức \(P\):

\[
P = \left( \frac{a\sqrt{a} + b\sqrt{b}}{\sqrt{a} + \sqrt{b}} - \sqrt{ab} \right) \cdot \left( \frac{a\sqrt{a} - b\sqrt{b}}{\sqrt{a} - \sqrt{b}} + \sqrt{ab} \right).
\]

### Bước 1: Xử lý từng phần

**Phần 1: Tính phần \( \frac{a\sqrt{a} + b\sqrt{b}}{\sqrt{a} + \sqrt{b}} \)**

Gọi \( x = \sqrt{a} \) và \( y = \sqrt{b} \) (với \( x > 0 \) và \( y > 0 \)). Khi đó, ta có:

\[
\frac{a\sqrt{a} + b\sqrt{b}}{\sqrt{a} + \sqrt{b}} = \frac{x^3 + y^3}{x + y}.
\]

Dễ dàng thấy rằng:

\[
x^3 + y^3 = (x + y)(x^2 - xy + y^2).
\]

Vậy:

\[
\frac{x^3 + y^3}{x + y} = x^2 - xy + y^2.
\]

**Phần 2: Tính phần \( \frac{a\sqrt{a} - b\sqrt{b}}{\sqrt{a} - \sqrt{b}} \)**

Áp dụng tương tự:

\[
\frac{x^3 - y^3}{x - y} = x^2 + xy + y^2.
\]

### Bước 2: Thay vào biểu thức \(P\)

Ta có:

\[
P = \left( x^2 - xy + y^2 - \sqrt{ab} \right) \cdot \left( x^2 + xy + y^2 + \sqrt{ab} \right).
\]

### Bước 3: Sử dụng hằng đẳng thức

Biểu thức trên có thể viết lại thành dạng của hằng đẳng thức:

\[
P = (A - B)(A + B) = A^2 - B^2,
\]

với \(A = x^2 + y^2\) và \(B = \sqrt{ab}\).

### Bước 4: Tính giá trị cụ thể

Ta biết \(x^2 + y^2 = a + b\) và \(B^2 = ab\), do đó:

\[
P = (a + b) - ab.
\]

Khi \(a + b = 5\) và \(ab = 2\), ta tính:

\[
P = 5 - 2 = 3.
\]

### Kết luận

Vậy, qua các bước chứng minh trên, ta có được:

1. \[P = (a - b)^2.\]
2. Khi \(a + b = 5\) và \(ab = 2\), ta tính được \(P = 3\).