Để rút gọn các biểu thức đã cho, ta thực hiện từng bước một.

### a)

\[
(x^2 - 2x)(xy + y) - x^3y
\]

Bước 1: Phân phối:
\[
= x^2(xy + y) - 2x(xy + y) - x^3y
\]
\[
= x^3y + x^2y - 2x^2y - 2xy - x^3y
\]

Bước 2: Gộp các hạng tử lại:
\[
= (x^3y - x^3y) + (x^2y - 2x^2y) - 2xy
\]
\[
= 0 - x^2y - 2xy
\]
\[
= -x^2y - 2xy
\]

### Kết quả a):
\[
= - (x^2 + 2)x y = -xy(x + 2)
\]

---

### b)

\[
(2x - y)(4x^2 + 2xy + y^2) - x(8x^2 + 1)
\]

Bước 1: Phân phối:
\[
= 2x(4x^2 + 2xy + y^2) - y(4x^2 + 2xy + y^2) - x(8x^2 + 1)
\]
\[
= (8x^3 + 4x^2y + 2xy^2) - (4xy^2 + 2y^3) - (8x^3 + x)
\]

Bước 2: Gộp hạng tử lại:
\[
= 8x^3 + 4x^2y + 2xy^2 - 4xy^2 - 2y^3 - 8x^3 - x
\]
\[
= (8x^3 - 8x^3) + 4x^2y + (2xy^2 - 4xy^2) - 2y^3 - x
\]
\[
= 0 + 4x^2y - 2xy^2 - 2y^3 - x
\]
\[
= 4x^2y - 2xy^2 - 2y^3 - x
\]

### Kết quả b):
\[
= 4x^2y - 2xy^2 - 2y^3 - x
\]

Tóm lại, kết quả của các biểu thức đã rút gọn là:
- a) \(-xy(x + 2)\)
- b) \(4x^2y - 2xy^2 - 2y^3 - x\)