Упростите выражение: а) \(\frac{5}{4}\sqrt{48}+\sqrt{5}(\sqrt{5}-\sqrt{15})\); б) \((\sqrt{13}-\sqrt{3})^2\).

а)

\(\sqrt{48}=\sqrt{16\cdot3}=4\sqrt{3}\), поэтому

\[\frac{5}{4}\sqrt{48}+\sqrt{5}(\sqrt{5}-\sqrt{15})=\frac{5}{4}\cdot4\sqrt{3}+5-\sqrt{75}=5\sqrt{3}+5-5\sqrt{3}=5.\]

б) Применим формулу квадрата разности:

\[(\sqrt{13}-\sqrt{3})^2=13-2\sqrt{13}\sqrt{3}+3=16-2\sqrt{39}.\]

Ответ: а) \(5\); б) \(16-2\sqrt{39}\).