а) Треугольники ADE и ABC подобны, если угол A - общий, а отношение сторон AD/AB = AE/AC.
Отношение площадей подобных треугольников равно квадрату коэффициента подобия: $$\frac{S_{ADE}}{S_{ABC}} = (\frac{AD}{AB})^2$$.
В нашем случае, $$AB = 5 \text{ см}$$, $$AC = 6 \text{ см}$$, $$AD = 3 \text{ см}$$, $$AE = 2 \text{ см}$$, $$S_{ABC} = 10 \text{ см}^2$$.
$$ \frac{AD}{AB} = \frac{3}{5}$$, $$\frac{AE}{AC} = \frac{2}{6} = \frac{1}{3}$$. Так как стороны не пропорциональны, то данные треугольники не являются подобными и нет возможности использовать формулу. С другой стороны у нас есть две стороны и угол между ними.
Площадь треугольника можно вычислить по формуле $$S = \frac{1}{2} ab \sin{\alpha}$$. Отсюда, $$ \frac{S_{ADE}}{S_{ABC}} = \frac{\frac{1}{2} AD \cdot AE \cdot \sin{\alpha}}{\frac{1}{2} AB \cdot AC \cdot \sin{\alpha}} = \frac{AD \cdot AE}{AB \cdot AC}$$.
$$S_{ADE} = S_{ABC} \cdot \frac{AD \cdot AE}{AB \cdot AC} = 10 \cdot \frac{3 \cdot 2}{5 \cdot 6} = 10 \cdot \frac{6}{30} = 10 \cdot \frac{1}{5} = 2 \text{ см}^2$$.
б) Дано: AB = 8 см, AC = 3 см, AE = 2 см, SABC=10 см², SADE=2 см².
Из формулы $$S_{ADE} = S_{ABC} \cdot \frac{AD \cdot AE}{AB \cdot AC}$$ выразим AD: $$AD = \frac{S_{ADE} \cdot AB \cdot AC}{S_{ABC} \cdot AE}$$.
$$AD = \frac{2 \cdot 8 \cdot 3}{10 \cdot 2} = \frac{48}{20} = 2,4 \text{ см}$$.
Ответ: а) 2 см²; б) 2,4 см