Это предложение описывает действие, которое происходило в прошлом, когда произошло другое событие (начался дождь). Для описания длительного действия в прошлом, которое прерывалось другим событием, используется Past Continuous.
Таким образом, правильный вариант — were sitting.
Ответ: were sitting