Cho \( \sin \alpha = \frac{12}{13} \) và \( \frac{\pi}{2} < \alpha < \pi \), tức là \( \alpha \) nằm trong góc tù (góc thứ hai). Trong góc này, \( \cos \alpha \) sẽ là số âm. Chúng ta có thể sử dụng định lý Pythagore để tìm giá trị của \( \cos \alpha \):

\[
\sin^2 \alpha + \cos^2 \alpha = 1
\]

Thay giá trị \( \sin \alpha \):

\[
\left(\frac{12}{13}\right)^2 + \cos^2 \alpha = 1
\]

\[
\frac{144}{169} + \cos^2 \alpha = 1
\]

Giải phương trình trên:

\[
\cos^2 \alpha = 1 - \frac{144}{169} = \frac{169 - 144}{169} = \frac{25}{169}
\]

\[
\cos \alpha = -\sqrt{\frac{25}{169}} = -\frac{5}{13}
\]

Vậy \( \cos \alpha = -\frac{5}{13} \).

### Kiểm tra đáp án:
a) \( \cos \alpha = -\frac{5}{13} \) - Đúng
b) \( \cos \alpha = \pm \frac{5}{13} \) - Sai (chỉ có dấu âm)
c) \( \tan \alpha = -\frac{12}{5} \) - Đúng (vì \( \tan \alpha = \frac{\sin \alpha}{\cos \alpha} = \frac{12/13}{-5/13} = -\frac{12}{5} \))
d) \( \cot \alpha = \frac{5}{12} \) - Đúng, vì \( \cot \alpha = \frac{1}{\tan \alpha} = -\frac{5}{12} \)

### Kết luận:
- Đáp án đúng: **a)** \( \cos \alpha = -\frac{5}{13} \)
- Chú ý: **tan** và **cot** cũng có giá trị âm và đúng trong khoảng đã cho.