Решим квадратное уравнение:
$$x^2 - 11x + 30 = 0$$
По теореме Виета:
Подберем корни:
Т.к. требуется меньший из корней, то выбираем 5.
Ответ: 5