Để tính \( \cos \alpha \) khi \( \sin \alpha = \frac{3}{5} \) và \( 90^\circ < \alpha < 180^\circ \), ta có thể sử dụng định lý Pythagore trong tam giác vuông.

1. Từ định lý Pythagore, ta biết rằng:
\[
\sin^2 \alpha + \cos^2 \alpha = 1
\]
Thay giá trị của \( \sin \alpha \) vào:
\[
\left( \frac{3}{5} \right)^2 + \cos^2 \alpha = 1
\]
\[
\frac{9}{25} + \cos^2 \alpha = 1
\]

2. Giải phương trình để tìm \( \cos^2 \alpha \):
\[
\cos^2 \alpha = 1 - \frac{9}{25}
\]
\[
\cos^2 \alpha = \frac{25}{25} - \frac{9}{25} = \frac{16}{25}
\]

3. Tính \( \cos \alpha \):
\[
\cos \alpha = \pm \sqrt{\frac{16}{25}} = \pm \frac{4}{5}
\]

4. Vì \( \alpha \) nằm trong khoảng \( 90^\circ < \alpha < 180^\circ \), nên \( \cos \alpha \) sẽ là giá trị âm:
\[
\cos \alpha = -\frac{4}{5}
\]

Vậy, \( \cos \alpha = -\frac{4}{5} \).