Правильный вариант: had finished.
Полное предложение: My mother told me she had finished cooking dinner. — «Моя мама сказала мне, что закончила готовить ужин». В придаточном предложении используется Past Perfect, поскольку действие завершилось раньше другого действия в прошлом.