12) -2ab+3a²b+a²-b²+5a²b-2ab²) =
При сложении и вычитании многочленов нужно раскрыть скобки, изменив знаки у слагаемых вычитаемого, и привести подобные слагаемые.
$$-2ab + 3a^2b + a^2 - (b^2 + 5a^2b - 2ab^2) = -2ab + 3a^2b + a^2 - b^2 - 5a^2b + 2ab^2 = (3a^2b - 5a^2b) - 2ab + a^2 - b^2 + 2ab^2 = -2a^2b - 2ab + a^2 - b^2 + 2ab^2$$
Ответ: $$-2a^2b-2ab+a^2-b^2+2ab^2$$