Để tính giá trị của biểu thức \( N = a^2(a + 1) - b^2(b - 1) - 3ab(a - b + 1) + ab \) với điều kiện \( a - b = 5 \), trước hết ta có thể thay \( a \) bằng \( b + 5 \).

Thay \( a = b + 5 \) vào biểu thức \( N \):

1. Tính \( a^2 \) và \( a + 1 \):
\[
a^2 = (b + 5)^2 = b^2 + 10b + 25
\]
\[
a + 1 = b + 5 + 1 = b + 6
\]
Do đó, \( a^2(a + 1) \) sẽ là:
\[
a^2(a + 1) = (b^2 + 10b + 25)(b + 6)
\]

2. Tính \( b^2(b - 1) \):
\[
b^2(b - 1) = b^3 - b^2
\]

3. Tính \( -3ab(a - b + 1) \):
\[
a - b + 1 = 5 + 1 = 6 \quad \text{(vì } a - b = 5\text{)}
\]
\[
ab = (b + 5)b = b^2 + 5b
\]
Vậy \( -3ab(a - b + 1) = -3(b^2 + 5b)(6) = -18b^2 - 90b \).

4. Tính \( ab \):
\[
ab = b^2 + 5b
\]

Bây giờ ta thay tất cả vào biểu thức \( N \):
\[
N = (b^2 + 10b + 25)(b + 6) - (b^3 - b^2) - (18b^2 + 90b) + (b^2 + 5b)
\]
Tiến hành tính từng phần:

- \( (b^2 + 10b + 25)(b + 6) = b^3 + 6b^2 + 10b^2 + 60b + 25b + 150 = b^3 + 16b^2 + 85b + 150 \)

\[
\Rightarrow N = b^3 + 16b^2 + 85b + 150 - (b^3 - b^2) - (18b^2 + 90b) + (b^2 + 5b)
\]
Kết hợp các hạng tử lại:
\[
= b^3 + 16b^2 + 85b + 150 - b^3 + b^2 - 18b^2 - 90b + b^2 + 5b
\]
\[
= (16b^2 + b^2 - 18b^2 + b^2) + (85b - 90b + 5b) + 150
\]
\[
= 0b^2 + 0b + 150 = 150
\]

Vậy giá trị của biểu thức \( N \) là \( \boxed{150} \).