Để tính giá trị các biểu thức và xác định a, b trong các câu hỏi đã cho, ta thực hiện từng bước như sau:

### B1 : Tính giá trị biểu thức

**a)** Tính giá trị biểu thức:
\[
(x-3)^2 - (8x+3)(3-x) + x(x-3)
\]
với \(x = 103\).

**Bước 1**: Tính từng phần của biểu thức.
- Tính \((x-3)^2\):
\[
(103 - 3)^2 = (100)^2 = 10000
\]

- Tính \((8x + 3)(3-x)\):
\[
8(103) + 3 = 824 + 3 = 827
\]
\[
3 - 103 = -100
\]
\[
(827)(-100) = -82700
\]

- Tính \(x(x - 3)\):
\[
103(103 - 3) = 103(100) = 10300
\]

**Bước 2**: Thay vào biểu thức ban đầu:
\[
10000 - (-82700) + 10300
\]

**Bước 3**: Giải biểu thức:
\[
10000 + 82700 + 10300 = 103000
\]

Vậy giá trị biểu thức a) là **103000**.

---

**b)** Tính giá trị biểu thức:
\[
5\left(-\frac{3x}{5} + 2\right) + \frac{5^3 - 3^2}{(-2x)^2} + x - 3
\]
với \(x = -3\).

**Bước 1**: Tính từng phần của biểu thức.
- Tính \(5\left(-\frac{3(-3)}{5} + 2\right)\):
\[
5\left(-\frac{-9}{5} + 2\right) = 5\left(\frac{9}{5} + 2\right) = 5\left(\frac{9}{5} + \frac{10}{5}\right) = 5\left(\frac{19}{5}\right) = 19
\]

- Tính \(\frac{5^3 - 3^2}{(-2(-3))^2}\):
\[
5^3 = 125, \quad 3^2 = 9 \Rightarrow 125 - 9 = 116
\]
\[
(-2(-3))^2 = (6)^2 = 36
\]
\[
\frac{116}{36} = \frac{29}{9}
\]

- Tính \(x - 3\) với \(x = -3\):
\[
-3 - 3 = -6
\]

**Bước 2**: Thay vào biểu thức ban đầu:
\[
19 + \frac{29}{9} - 6
\]

**Bước 3**: Giải biểu thức:
\[
19 - 6 = 13
\]
\[
13 + \frac{29}{9} = \frac{117}{9} + \frac{29}{9} = \frac{146}{9}
\]

Vậy giá trị biểu thức b) là **\(\frac{146}{9}\)**.

---

### B2 : Xác định a và b

**a)** Để \( (3x^3 + a^2 + bx + 9) \) chia hết cho \( (x^2 - 9) \):
Ta có \(x^2 - 9 = (x - 3)(x + 3)\). Điều này có nghĩa là \(x = 3\) và \(x = -3\) phải là nghiệm của đa thức.

- Với \(x = 3\):
\[
3(3)^3 + a^2 + b(3) + 9 = 0 \Rightarrow 81 + a^2 + 3b + 9 = 0 \Rightarrow a^2 + 3b + 90 = 0 \tag{1}
\]

- Với \(x = -3\):
\[
3(-3)^3 + a^2 + b(-3) + 9 = 0 \Rightarrow -81 + a^2 - 3b + 9 = 0 \Rightarrow a^2 - 3b - 72 = 0 \tag{2}
\]

Giải hệ phương trình (1) và (2):
Từ (1): \(a^2 + 3b = -90\)
Từ (2): \(a^2 - 3b = 72\)

Cộng hai phương trình:
\[
2a^2 = -90 + 72 \Rightarrow 2a^2 = -18 \Rightarrow a^2 = -9
\]
Vì \(a^2\) không thể âm, hệ phương trình không có nghiệm thực.

---

**b)** Để \( (x^4 + a^2 + 1) \) chia hết cho \( (x^2 + x + 1) \):
Ta biết rằng các nghiệm của \(x^2 + x + 1 = 0\) là \( \omega, \omega^2\) (các nghiệm phức).

Công thức tổng quát cho \(f(\omega) = \omega^4 + a^2 + 1\) và \(f(\omega^2) = (\omega^2)^4 + a^2 + 1\) đều phải bằng 0.

Tính:
\[
\omega^4 = \omega^2 + \omega + 1, \quad \text{theo định nghĩa }\omega^3 = 1.
\]
Do đó, \(f(\omega) = 0\) sẽ cho ra:
\[
\omega^2 + \omega + 1 + a^2 + 1 = 0 \Rightarrow a^2 + 2 = 0 \Rightarrow a^2 = -2
\]
Tương tự cho \(f(\omega^2)\):
\[
(\omega^2)^4 + a^2 + 1 = 0 \Rightarrow a^2 + 2 = 0 \Rightarrow a^2 = -2.
\]

Hệ phương trình \(x^4 + a^2 + 1\) cũng không có nghiệm thực cho giá trị của \(a\).

### Kết luận:
- Đối với câu b), a, b không có nghiệm thực trong điều kiện hiện tại.