Решение:
а) Решим уравнение \( \cos^2 x - 3 \sin x - 3 = 0 \).
- Заменим \( \cos^2 x \) на \( 1 - \sin^2 x \) согласно основному тригонометрическому тождеству: \( 1 - \sin^2 x - 3 \sin x - 3 = 0 \).
- Приведём подобные слагаемые: \( -\sin^2 x - 3 \sin x - 2 = 0 \).
- Умножим обе части на -1: \( \sin^2 x + 3 \sin x + 2 = 0 \).
- Сделаем замену переменной: пусть \( t = \sin x \). Получим квадратное уравнение: \( t^2 + 3t + 2 = 0 \).
- Решим квадратное уравнение: \( D = 3^2 - 4 \cdot 1 \cdot 2 = 9 - 8 = 1 \). \( t_1 = \frac{-3 + 1}{2} = -1 \), \( t_2 = \frac{-3 - 1}{2} = -2 \).
- Вернёмся к замене: \( \sin x = -1 \) или \( \sin x = -2 \).
- Уравнение \( \sin x = -2 \) не имеет решений, так как \( -1 \le \sin x \le 1 \).
- Решим уравнение \( \sin x = -1 \): \( x = -\frac{\pi}{2} + 2\pi n \), где \( n \in \mathbb{Z} \).
б) Решим уравнение \( \sin 2x = 2\sqrt{3} \sin^2 x \).
- Используем формулу двойного угла для синуса: \( 2 \sin x \cos x = 2\sqrt{3} \sin^2 x \).
- Перенесём все члены в одну часть: \( 2 \sin x \cos x - 2\sqrt{3} \sin^2 x = 0 \).
- Вынесем общий множитель \( 2 \sin x \): \( 2 \sin x (\cos x - \sqrt{3} \sin x) = 0 \).
- Приравняем каждый множитель к нулю: \( \sin x = 0 \) или \( \cos x - \sqrt{3} \sin x = 0 \).
- Решим \( \sin x = 0 \): \( x = \pi k \), где \( k \in \mathbb{Z} \).
- Решим \( \cos x - \sqrt{3} \sin x = 0 \). Разделим обе части на \( \cos x \) (предполагая, что \( \cos x \neq 0 \)). Если \( \cos x = 0 \), то \( x = \frac{\pi}{2} + \pi m \), в этом случае \( \sin x = \pm 1 \). Подставив в уравнение, получим \( 0 - \sqrt{3}(\pm 1) = 0 \), что неверно. Значит, \( \cos x \neq 0 \).
- Разделив на \( \cos x \), получим \( 1 - \sqrt{3} \tan x = 0 \) \( \tan x = \frac{1}{\sqrt{3}} \).
- Решим \( \tan x = \frac{1}{\sqrt{3}} \): \( x = \frac{\pi}{6} + \pi p \), где \( p \in \mathbb{Z} \).
Ответ: а) \( x = -\frac{\pi}{2} + 2\pi n \), \( n \in \mathbb{Z} \); б) \( x = \pi k \) или \( x = \frac{\pi}{6} + \pi p \), \( k, p \in \mathbb{Z} \).