Ответ:

а) Разложим знаменатель по формуле квадрата суммы:

\(a+2\sqrt{ab}+b=(\sqrt a+\sqrt b)^2\).

Тогда

\[\frac{\sqrt a+\sqrt b}{a+2\sqrt{ab}+b}=\frac{\sqrt a+\sqrt b}{(\sqrt a+\sqrt b)^2}=\frac{1}{\sqrt a+\sqrt b}.\]

б) Обозначим \(x=\sqrt a\), \(y=\sqrt b\). Тогда дробь имеет вид

\[\frac{x^2-xy+y^2}{x+3y}.\]

Числитель не имеет общего множителя со знаменателем, поэтому сократить дробь нельзя.

Ответ: а) \(\dfrac{1}{\sqrt a+\sqrt b}\); б) сократить нельзя.