Правильный вариант: had.
Если бы я заметил Ника, я бы его остановил.
Краткое пояснение: В условных предложениях третьего типа (Third Conditional) используется структура: If + Past Perfect, would have + Past Participle. В данном случае, Past Perfect - это had + Past Participle.
Проверка за 10 секунд: Условное предложение третьего типа.
Доп. профит: Читерский прием: Запомни структуру условных предложений: If + Past Perfect, would have + Past Participle.