Để thực hiện phép nhân rồi rút gọn, ta làm như sau:

### a) \[(x² - 2xy + 2y²)(x + 2y) - (x² + 4y²)(x - y)\] 2xy

**Bước 1: Phân phối các biểu thức**

\[(x² - 2xy + 2y²)(x + 2y)\]
= \(x²(x + 2y) - 2xy(x + 2y) + 2y²(x + 2y)\)
= \(x³ + 2x²y - 2x²y - 4xy² + 2xy² + 4y³\)
= \(x³ - 2xy² + 4y³\)

\[(x² + 4y²)(x - y)\]
= \(x²(x - y) + 4y²(x - y)\)
= \(x³ - x²y + 4xy² - 4y³\)

**Bước 2: Trừ hai biểu thức**

\[(x³ - 2xy² + 4y³) - (x³ - x²y + 4xy² - 4y³)\]
= \(x³ - 2xy² + 4y³ - x³ + x²y - 4xy² + 4y³\)
= \(-2xy² + x²y - 4xy² + 8y³\)
= \(x²y - 6xy² + 8y³\)

**Bước 3: Nhân với 2xy**

\[(x²y - 6xy² + 8y³) \cdot 2xy\]
= \(2x³y² - 12x²y³ + 16xy⁴\)

### b) (3x - 5)(2x + 11) - (2x + 3)(3x + 7)

**Bước 1: Phân phối các biểu thức**

\[(3x - 5)(2x + 11)\]
= \(3x(2x + 11) - 5(2x + 11)\)
= \(6x² + 33x - 10x - 55\)
= \(6x² + 23x - 55\)

\[(2x + 3)(3x + 7)\]
= \(2x(3x + 7) + 3(3x + 7)\)
= \(6x² + 14x + 9x + 21\)
= \(6x² + 23x + 21\)

**Bước 2: Trừ hai biểu thức**

\[(6x² + 23x - 55) - (6x² + 23x + 21)\]
= \(6x² + 23x - 55 - 6x² - 23x - 21\)
= \(-55 - 21\)
= \(-76\)

Vậy kết quả của hai phép tính là:

a) \(2x³y² - 12x²y³ + 16xy⁴\)

b) \(-76\)