В этом предложении Past Continuous используется для описания продолжительного действия (study), которое происходило в момент, когда кто-то пришел (went). Поэтому для глагола 'study' мы используем Past Continuous.
2. \"Was Jane busy when you went to see her?\"
\"Yes, she was studying.\"