Để thực hiện phép tính, chúng ta sẽ giải từng phần một.

### Phần a:
\[ A = \left(\frac{1}{2} - x - 3xy^2\right) + \left(2x^2 + 3xy - 1\right) - \left(5 + xy - 2xy^2\right) \]

Bước 1: Mở ngoặc và sắp xếp các hạng tử:
\[ A = \frac{1}{2} - x - 3xy^2 + 2x^2 + 3xy - 1 - 5 - xy + 2xy^2 \]

Bước 2: Gom các hạng tử đồng dạng lại với nhau:
\[ A = 2x^2 + (-x) + (3xy - xy) + (-3xy^2 + 2xy^2) + \left(\frac{1}{2} - 1 - 5\right) \]

Bước 3: Tính toán các hạng tử đồng dạng:
\[ A = 2x^2 - x + 2xy - xy + (-3xy^2 + 2xy^2) + \left(\frac{1}{2} - 6\right) \]
\[ A = 2x^2 - x + 2xy - xy - xy^2 + \left(\frac{1}{2} - 6\right) \]
\[ A = 2x^2 - x + xy - xy^2 - \frac{11}{2} \]

### Phần b:
\[ B = (5xy - 4y^2)(3x^2 + 4xy) - 15xy(x + y)(x - y) \]

Bước 1: Phân phối các hạng tử trong dấu ngoặc:
\[ B = (5xy)(3x^2) + (5xy)(4xy) - (4y^2)(3x^2) - (4y^2)(4xy) - 15xy(x^2 - y^2) \]
\[ B = 15x^3y + 20x^2y^2 - 12x^2y^2 - 16xy^3 - 15xy(x^2 - y^2) \]

Bước 2: Phân phối 15xy trong dấu ngoặc:
\[ B = 15x^3y + 20x^2y^2 - 12x^2y^2 - 16xy^3 - 15x^3y + 15xy^3 \]

Bước 3: Gom các hạng tử đồng dạng lại với nhau:
\[ B = (15x^3y - 15x^3y) + (20x^2y^2 - 12x^2y^2) + (-16xy^3 + 15xy^3) \]
\[ B = 0 + 8x^2y^2 - xy^3 \]
\[ B = 8x^2y^2 - xy^3 \]

Vậy kết quả của hai phép tính là:
\[ A = 2x^2 - x + xy - xy^2 - \frac{11}{2} \]
\[ B = 8x^2y^2 - xy^3 \]