В данном предложении двоеточие ставится между частями бессоюзного сложного предложения, когда вторая часть раскрывает содержание первой, поясняет его. В данном случае вторая часть «не то ветка треснула под тяжёлой лапой зверя, не то птица взлетела» поясняет, что это был за загадочный звук.
Ответ: 1) Вторая часть бессоюзного сложного предложения поясняет содержание того, о чём говорится в первой части.