Để giải bài toán này, chúng ta sẽ sử dụng các hằng đẳng thức đã biết, cụ thể là hằng đẳng thức mở rộng và phương trình đối xứng.

### Phần a)
Cho:
\[ x + y = 5 \]
\[ x^2 + y^2 = 17 \]

#### Tính \(x^4 + y^4\)

Đầu tiên, tính \( (x + y)^2 \):
\[ (x + y)^2 = x^2 + y^2 + 2xy \]
\[ 5^2 = 17 + 2xy \]
\[ 25 = 17 + 2xy \]
\[ 2xy = 25 - 17 \]
\[ 2xy = 8 \]
\[ xy = 4 \]

Tiếp tục, tính \( x^4 + y^4 \):
\[
(x^2 + y^2)^2 = x^4 + y^4 + 2x^2y^2
\]
\[
17^2 = x^4 + y^4 + 2(4^2)
\]
\[
289 = x^4 + y^4 + 2 \cdot 16
\]
\[
289 = x^4 + y^4 + 32
\]
\[
x^4 + y^4 = 289 - 32
\]
\[
x^4 + y^4 = 257
\]

#### Tính \(x^3 + y^3\)

Sử dụng \(x + y = 5\) và \(xy = 4\):
\[
x^3 + y^3 = (x+y)(x^2 - xy + y^2)
\]
\[
x^3 + y^3 = 5(17 - 4)
\]
\[
x^3 + y^3 = 5 \cdot 13
\]
\[
x^3 + y^3 = 65
\]

#### Tính \(x^5 + y^5\)

Sử dụng định lý:
\[
x^5 + y^5 = (x + y)(x^4 - x^3y + x^2y^2 - xy^3 + y^4)
\]

Biết:
\[
x^4 + y^4 = 257
\]
\[
x^3 + y^3 = 65
\]
\[
xy = 4
\]
\[
x^2y^2 = (xy)^2 = 16
\]

Tính \(x^4 - x^3y + x^2y^2 - xy^3 + y^4\):
\[
x^4 - x^3y + x^2y^2 - xy^3 + y^4 = x^4 + y^4 - xy(x^2 + y^2) + x^2y^2
\]
\[
= 257 - 4 \cdot 17 + 16
\]
\[
= 257 - 68 + 16
\]
\[
= 205
\]

Tính \(x^5 + y^5\):
\[
x^5 + y^5 = (x + y)(x^4 - x^3y + x^2y^2 - xy^3 + y^4)
\]
\[
= 5 \cdot 205
\]
\[
= 1025
\]

### Phần b)
Cho \(x - 1 = 1\), nghĩa là \(x = 2\)

Tính hằng số:
\[
A = x^3 - y^3 - 3xy
\]
Thay vào giá trị đã biết ở trên:
\[
A = 2^3 - y^3 - 3(2)y
\]
\[
A = 8 - y^3 - 6y
\]

Do không có thêm thông tin về y, ta chỉ có thể biểu diễn A theo biến y như trên. Nếu có thêm điều kiện về y thì sẽ tiếp tục tính cụ thể được giá trị của A.