Chúng ta sẽ thực hiện rút gọn các biểu thức đã cho:

### a. \((x-3)(x^2 + 3x + 9) - (x^3 + 3)\)

Đầu tiên, ta mở biểu thức đầu tiên ra:

\[
(x-3)(x^2 + 3x + 9) = x(x^2 + 3x + 9) - 3(x^2 + 3x + 9)
\]

Khi tính toán:

\[
= x^3 + 3x^2 + 9x - 3x^2 - 9x - 27
\]
\[
= x^3 + 3x^2 + 9x - 3x^2 - 9x - 27
\]
\[
= x^3 + (3x^2 - 3x^2) + (9x - 9x) - 27
\]
\[
= x^3 - 27
\]

Sau đó, ta trừ \(x^3 + 3\):

\[
(x^3 - 27) - (x^3 + 3) = -27 - 3 = -30
\]

Vậy, kết quả của biểu thức a là:

\[
\boxed{-30}
\]

### b. \(9x^2 - (3x - 4)^2\)

Mở biểu thức \((3x - 4)^2\):

\[
(3x - 4)^2 = 9x^2 - 24x + 16
\]

Thay vào biểu thức nguyên:

\[
9x^2 - (9x^2 - 24x + 16) = 9x^2 - 9x^2 + 24x - 16
\]

Kết quả là:

\[
= 24x - 16
\]

Và có thể rút gọn hơn:

\[
= 8(3x - 2)
\]

Vậy, kết quả của biểu thức b là:

\[
\boxed{24x - 16} \quad \text{hoặc} \quad \boxed{8(3x - 2)}
\]

### c. \((a - b^2)(a + b)^2\)

Đặt biểu thức \( (a + b)^2 \) ra:
\[
(a + b)^2 = a^2 + 2ab + b^2
\]

Vậy ta có:

\[
(a - b^2)(a + b)^2 = (a - b^2)(a^2 + 2ab + b^2)
\]

Mở ra:

\[
= a(a^2 + 2ab + b^2) - b^2(a^2 + 2ab + b^2)
\]
\[
= a^3 + 2a^2b + ab^2 - (b^2a^2 + 2ab^3 + b^4)
\]

Gom nhóm lại:

\[
= a^3 + (2ab - b^2)a^2 + (ab^2 - 2b^3 - b^4)
\]

Kết quả biểu thức này khá phức tạp và không thể rút gọn thêm một cách dễ dàng. Do đó, chúng ta để nguyên:

\[
\text{Kết quả của biểu thức c là: } (a - b^2)(a + b)^2
\]

### d. \((a^2 + 2a + 3)(a^2 + 2a - 3)\)

Ta nhận thấy đây là dạng tích của hai biểu thức bậc 2:

Gọi \(x = a^2 + 2a\), ta có:

\[
(x + 3)(x - 3) = x^2 - 9
\]

Thay \(x = a^2 + 2a\) vào biểu thức:

\[
= (a^2 + 2a)^2 - 9
\]

Tiến hành mở ra:

\[
= a^4 + 4a^3 + 4a^2 - 9
\]

Vậy, kết quả cuối cùng của biểu thức d là:

\[
\boxed{a^4 + 4a^3 + 4a^2 - 9}
\]

Trên đây là kết quả rút gọn của các biểu thức đã cho.