Để đa thức \( A = x^4 - 2x^3 + 3x^2 + ax + b \) là bình phương của một đa thức, ta cần tìm các hệ số \( a \) và \( b \) sao cho \( A \) có thể được viết dưới dạng \( (px^2 + qx + r)^2 \).

Giả sử \( A = (px^2 + qx + r)^2 \), ta khai triển biểu thức này:

\[
(px^2 + qx + r)^2 = p^2x^4 + 2pqx^3 + (2pr + q^2)x^2 + 2qrx + r^2
\]

So sánh với \( A = x^4 - 2x^3 + 3x^2 + ax + b \), ta có:

1. \( p^2 = 1 \) => \( p = 1 \) hoặc \( p = -1 \)
2. \( 2pq = -2 \)
3. \( 2pr + q^2 = 3 \)
4. \( 2qr = a \)
5. \( r^2 = b \)

Xét trường hợp \( p = 1 \):

1. \( 2q = -2 \) => \( q = -1 \)
2. \( 2r + (-1)^2 = 3 \) => \( 2r + 1 = 3 \) => \( 2r = 2 \) => \( r = 1 \)
3. \( 2(-1)(1) = a \) => \( a = -2 \)
4. \( r^2 = b \) => \( 1^2 = b \) => \( b = 1 \)

Vậy các hệ số \( a \) và \( b \) là \( a = -2 \) và \( b = 1 \).

Xét trường hợp \( p = -1 \):

1. \( 2(-1)q = -2 \) => \( -2q = -2 \) => \( q = 1 \)
2. \( 2(-1)r + (1)^2 = 3 \) => \( -2r + 1 = 3 \) => \( -2r = 2 \) => \( r = -1 \)
3. \( 2(1)(-1) = a \) => \( a = -2 \)
4. \( r^2 = b \) => \( (-1)^2 = b \) => \( b = 1 \)

Vậy các hệ số \( a \) và \( b \) là \( a = -2 \) và \( b = 1 \).

Kết luận: Các hệ số \( a \) và \( b \) để đa thức \( A = x^4 - 2x^3 + 3x^2 + ax + b \) là bình phương của một đa thức là \( a = -2 \) và \( b = 1 \).