Để giải hệ phương trình này, ta sẽ giải từng hệ một.

### Hệ phương trình HN17:
\[
\begin{cases}
\sqrt{x} + 2\sqrt{y} - 1 = 5 \\
4\sqrt{x} - \sqrt{y} - 1 = 2
\end{cases}
\]

1. Giải phương trình thứ nhất:
\[
\sqrt{x} + 2\sqrt{y} - 1 = 5 \implies \sqrt{x} + 2\sqrt{y} = 6 \implies \sqrt{x} = 6 - 2\sqrt{y}
\]

2. Giải phương trình thứ hai:
\[
4\sqrt{x} - \sqrt{y} - 1 = 2 \implies 4\sqrt{x} - \sqrt{y} = 3
\]

Thay \(\sqrt{x} = 6 - 2\sqrt{y}\) vào phương trình thứ hai:
\[
4(6 - 2\sqrt{y}) - \sqrt{y} = 3 \implies 24 - 8\sqrt{y} - \sqrt{y} = 3 \implies 24 - 9\sqrt{y} = 3 \implies 9\sqrt{y} = 21 \implies \sqrt{y} = \frac{21}{9} = \frac{7}{3}
\]

Do đó:
\[
y = \left(\frac{7}{3}\right)^2 = \frac{49}{9}
\]

Thay \(\sqrt{y} = \frac{7}{3}\) vào \(\sqrt{x} = 6 - 2\sqrt{y}\):
\[
\sqrt{x} = 6 - 2 \cdot \frac{7}{3} = 6 - \frac{14}{3} = \frac{18}{3} - \frac{14}{3} = \frac{4}{3}
\]

Do đó:
\[
x = \left(\frac{4}{3}\right)^2 = \frac{16}{9}
\]

Vậy nghiệm của hệ phương trình HN17 là:
\[
(x, y) = \left(\frac{16}{9}, \frac{49}{9}\right)
\]

### Hệ phương trình HN21:
\[
\begin{cases}
\frac{3}{x+1} - 2y = -1 \\
\frac{5}{x+1} + 3y = 11
\end{cases}
\]

1. Đặt \(t = \frac{1}{x+1}\), ta có hệ phương trình:
\[
\begin{cases}
3t - 2y = -1 \\
5t + 3y = 11
\end{cases}
\]

2. Giải phương trình thứ nhất:
\[
3t - 2y = -1 \implies 2y = 3t + 1 \implies y = \frac{3t + 1}{2}
\]

3. Thay \(y = \frac{3t + 1}{2}\) vào phương trình thứ hai:
\[
5t + 3\left(\frac{3t + 1}{2}\right) = 11 \implies 5t + \frac{9t + 3}{2} = 11 \implies 10t + 9t + 3 = 22 \implies 19t + 3 = 22 \implies 19t = 19 \implies t = 1
\]

4. Do \(t = \frac{1}{x+1} = 1\), ta có:
\[
x + 1 = 1 \implies x = 0
\]

5. Thay \(t = 1\) vào \(y = \frac{3t + 1}{2}\):
\[
y = \frac{3 \cdot 1 + 1}{2} = \frac{4}{2} = 2
\]

Vậy nghiệm của hệ phương trình HN21 là:
\[
(x, y) = (0, 2)
\]