5. I picked up the pencil (lying, lain) on the floor.

Lying. Правильный выбор – lying, потому что это причастие настоящего времени, описывающее действие, которое происходило с карандашом в момент, когда его подняли. Lain – это причастие прошедшего времени, которое здесь не подходит.