Để tìm đa thức dư khi chia đa thức \( P(x) \) cho đa thức \( (x-1)(x^2+1) \), đầu tiên ta cần sử dụng định lý các giá trị dư:

1. **Tính đa thức dư**:
Đa thức dư \( R(x) \) sẽ có bậc nhỏ hơn bậc của \( (x-1)(x^2+1) \). Vì \( (x-1)(x^2+1) \) có bậc 3, ta biết rằng \( R(x) \) có thể viết dưới dạng:
\[
R(x) = ax^2 + bx + c
\]
trong đó \( a, b, c \) là các hệ số thực.

2. **Sử dụng các điều kiện cho các giá trị At**:
- Theo đề bài, ta có:
- Khi \( x = 1 \), \( P(1) = 4 \), do đó:
\[
R(1) = a(1^2) + b(1) + c = a + b + c = 4
\]

- Khi \( x^2 + 1 = 0 \) (tức là \( x = i \) và \( x = -i \)), theo điều kiện,:
- \( R(i) = 3i + 5 \):
\[
R(i) = ai^2 + bi + c = -a + bi + c = 3i + 5
\]
từ đây ta có hệ phương trình:
\[
-a + c = 5 \quad \text{(1)}
\]
\[
b = 3 \quad \text{(2)}
\]

- Tương tự cho \( R(-i) = -3i + 5 \):
\[
R(-i) = a(-i)^2 + b(-i) + c = -a - bi + c = -a - 3i + c = -3i + 5
\]
từ đây ta có hệ phương trình:
\[
-a + c = 5 \quad \text{(3)}
\]
\[
-b = -3 \quad \Rightarrow b = 3 \quad \text{(4)}
\]

3. **Giải hệ phương trình**:
Từ phương trình (1) và (3), ta thấy cả (1) và (3) trùng khớp. Sử dụng (2) ta có:
\[
a + 3 + c = 4 \Rightarrow a + c = 1 \quad \text{(5)}
\]
Kết hợp (5) và (1):
- Từ (1):
\[
-a + c = 5 \quad \Rightarrow c = 5 + a
\]
Thay vào (5):
\[
a + (5 + a) = 1 \quad \Rightarrow 2a + 5 = 1 \quad \Rightarrow 2a = -4 \quad \Rightarrow a = -2
\]
Thay \( a \) vào (1) để tìm \( c \):
\[
-(-2) + c = 5 \quad \Rightarrow 2 + c = 5 \quad \Rightarrow c = 3
\]

4. **Tập hợp kết quả**:
Ta có:
\[
a = -2, \quad b = 3, \quad c = 3
\]
Do đó, đa thức dư là:
\[
R(x) = -2x^2 + 3x + 3
\]

Vậy đa thức dư khi chia \( P(x) \) cho \( (x-1)(x^2+1) \) là:
\[
\boxed{-2x^2 + 3x + 3}
\]