a)
$$
(-0.2xy^5)^3 = (-0.2)^3 \cdot x^3 \cdot (y^5)^3 = -0.008x^3y^{5 \cdot 3} = -0.008x^3y^{15}
$$
Ответ: $$-0.008x^3y^{15}$$
б)
$$
8x^5y \cdot (-x^3y^4)^4 = 8x^5y \cdot (-1)^4 \cdot (x^3)^4 \cdot (y^4)^4 = 8x^5y \cdot 1 \cdot x^{3 \cdot 4} \cdot y^{4 \cdot 4} = 8x^5y \cdot x^{12} \cdot y^{16} = 8 \cdot x^{5+12} \cdot y^{1+16} = 8x^{17}y^{17}
$$
Ответ: $$8x^{17}y^{17}$$