Используем формулу сокращенного умножения: $$(a-b)^2 = a^2 - 2ab + b^2$$
В нашем случае: $$(m-5k^2)^2 = m^2 - 2(m)(5k^2) + (5k^2)^2 = m^2 - 10mk^2 + 25k^4$$
Ответ: $$m^2 - 10mk^2 + 25k^4$$