The children had not finished their homework and by 10 o'clock they were still doing it.
Объяснение: Используем Past Perfect Simple в отрицательной форме, чтобы показать, что к 10 часам дети не закончили делать домашнее задание, и продолжаем использовать Past Continuous, чтобы показать, что процесс все еще продолжается.