Để giải bài toán này, ta sẽ lần lượt xem xét từng câu:

### a) Cho \( \sin x + \cos x = \frac{1}{5} \)

1. **Bước 1**: Đặt \( s = \sin x + \cos x \) và \( p = \sin x \cos x \). Biết rằng:
\[
\sin^2 x + \cos^2 x = 1
\]
và
\[
(\sin x + \cos x)^2 = \sin^2 x + 2\sin x \cos x + \cos^2 x
\]
Suy ra:
\[
s^2 = 1 + 2p \implies p = \frac{s^2 - 1}{2}
\]
Trong trường hợp này:
\[
s = \frac{1}{5} \implies s^2 = \left(\frac{1}{5}\right)^2 = \frac{1}{25}
\]
Từ đó ta có:
\[
p = \frac{\frac{1}{25} - 1}{2} = \frac{-24/25}{2} = -\frac{12}{25}
\]

2. **Bước 2**: Giải hệ phương trình:
\[
t^2 - st + p = 0
\]
\[
t^2 - \frac{1}{5}t - \frac{12}{25} = 0
\]
Tính delta:
\[
\Delta = \left(-\frac{1}{5}\right)^2 - 4 \cdot 1 \cdot \left(-\frac{12}{25}\right) = \frac{1}{25} + \frac{48}{25} = \frac{49}{25}
\]
Các nghiệm:
\[
t = \frac{\frac{1}{5} \pm \sqrt{\frac{49}{25}}}{2}
\]
\[
t = \frac{\frac{1}{5} \pm \frac{7}{5}}{2} = \frac{8/5}{2} \quad \text{hoặc} \quad \frac{-6/5}{2}
\]
Kết quả nghiệm:
\[
t_1 = \frac{4}{5}, \quad t_2 = -\frac{3}{5}
\]
Vậy ta có \( \sin x = \frac{4}{5}, \cos x = -\frac{3}{5} \) hoặc tương tự.

3. **Bước 3**: Tính \( \tan x \) và \( \cot x \):
\[
\tan x = \frac{\sin x}{\cos x} = \frac{4/5}{-3/5} = -\frac{4}{3}
\]
\[
\cot x = \frac{1}{\tan x} = -\frac{3}{4}
\]

### b) Cho \( \tan x + \cot x = 4 \)

1. **Bước 1**: Gọi \( t = \tan x \), khi đó \( \cot x = \frac{1}{t} \) và ta có:
\[
t + \frac{1}{t} = 4 \quad \Rightarrow \quad t^2 - 4t + 1 = 0
\]
Tính delta:
\[
\Delta = 16 - 4 = 12
\]
Các nghiệm:
\[
t = \frac{4 \pm \sqrt{12}}{2} = 2 \pm \sqrt{3}
\]

2. **Bước 2**: Lấy \( t = 2 + \sqrt{3} \) (giả sử giá trị dương).
- Tính \( \tan x \):
\[
\tan x = 2 + \sqrt{3}
\]
- Tính \( \cot x \):
\[
\cot x = \frac{1}{2+\sqrt{3}} = \frac{2 - \sqrt{3}}{1} = 2 - \sqrt{3}
\]

3. **Bước 3**: Tính \( \sin x \) và \( \cos x \):
- Thêm một số thuộc tính:
\[
\sin^2 x + \cos^2 x = 1 \quad \text{với lại} \sin x = \frac{\tan x}{\sqrt{1+\tan^2 x}}, \cos x = \frac{1}{\sqrt{1+\tan^2 x}}
\]

Cuối cùng, bạn có thể tính các giá trị cụ thể cho \( \sin x \) và \( \cos x \) từ các giá trị trên.

### Kết quả:

- a) \( \sin x = \frac{4}{5}, \cos x = -\frac{3}{5}, \tan x = -\frac{4}{3}, \cot x = -\frac{3}{4} \)
- b) \( \tan x = 2 + \sqrt{3}, \cot x = 2 - \sqrt{3} \) với giá trị \( \sin x \) và \( \cos x \) có thể tính được từ đó.