Решение:
- Найдём \( \cos \alpha \) по основному тригонометрическому тождеству: \( \sin^2 \alpha + \cos^2 \alpha = 1 \).
- \( \cos^2 \alpha = 1 - \sin^2 \alpha = 1 - \left( -\frac{5}{13} \right)^2 = 1 - \frac{25}{169} = \frac{144}{169} \).
- Так как \( \frac{3\pi}{2} < \alpha < 2\pi \) (четвертый квадрант), \( \cos \alpha > 0 \).
- \( \cos \alpha = \sqrt{\frac{144}{169}} = \frac{12}{13} \).
- Найдём \( \operatorname{tg} \alpha \): \( \operatorname{tg} \alpha = \frac{\sin \alpha}{\cos \alpha} = \frac{-5/13}{12/13} = -\frac{5}{12} \).
- Найдём \( \operatorname{ctg} \alpha \): \( \operatorname{ctg} \alpha = \frac{1}{\operatorname{tg} \alpha} = -\frac{12}{5} \).
Ответ: \( \cos \alpha = \frac{12}{13}, \operatorname{tg} \alpha = -\frac{5}{12}, \operatorname{ctg} \alpha = -\frac{12}{5} \).