Решение:
a) $$2x^3 + x^2 - 2x - 1 = x^2(2x+1) - (2x+1) = (2x+1)(x^2 - 1) = (2x+1)(x-1)(x+1)$$.
б) $$4ab - b^3 - 8a^2 + 2ab^2 = -b(b^2 - 2ab -4a^2) + 2ab = -b^3 - 8a^2+ 2ab(b+2)$$.
Ответ: a) $$(2x+1)(x-1)(x+1)$$, б) $$4ab - b^3 - 8a^2 + 2ab^2$$