Пусть \( v_{л} \) — скорость лодки в неподвижной воде (км/ч), а \( v_{т} \) — скорость течения реки (км/ч).
По условию, \( v_{т} = 3 \) км/ч.
Скорость лодки по течению: \( v_{по} = v_{л} + v_{т} = v_{л} + 3 \) (км/ч).
Скорость лодки против течения: \( v_{пр} = v_{л} - v_{т} = v_{л} - 3 \) (км/ч).
Расстояние, которое прошла лодка по течению, равно 36 км. Время в пути по течению: \( t_{по} = \frac{36}{v_{л} + 3} \) (ч).
Расстояние, которое лодка прошла против течения, также равно 36 км. Время в пути против течения: \( t_{пр} = \frac{36}{v_{л} - 3} \) (ч).
Общее время в пути составило 5 часов:
\[ t_{по} + t_{пр} = 5 \]
\[ \frac{36}{v_{л} + 3} + \frac{36}{v_{л} - 3} = 5 \]
Приведем к общему знаменателю \( (v_{л} + 3)(v_{л} - 3) = v_{л}^2 - 9 \):
\[ \frac{36(v_{л} - 3) + 36(v_{л} + 3)}{v_{л}^2 - 9} = 5 \]
\[ \frac{36v_{л} - 108 + 36v_{л} + 108}{v_{л}^2 - 9} = 5 \]
\[ \frac{72v_{л}}{v_{л}^2 - 9} = 5 \]
Умножим обе части на \( v_{л}^2 - 9 \) (при условии \( v_{л} \neq 3 \) и \( v_{л} \neq -3 \)):
\[ 72v_{л} = 5(v_{л}^2 - 9) \]
\[ 72v_{л} = 5v_{л}^2 - 45 \]
Перенесем все члены в одну сторону, чтобы получить квадратное уравнение:
\[ 5v_{л}^2 - 72v_{л} - 45 = 0 \]
Найдем дискриминант:
\[ D = b^2 - 4ac = (-72)^2 - 4 \cdot 5 \cdot (-45) = 5184 + 900 = 6084 \]
Найдем \( \sqrt{D} \):
\[ \sqrt{6084} = 78 \]
Найдем корни \( v_{л} \) по формуле:
\[ v_{л} = \frac{-b \pm \sqrt{D}}{2a} = \frac{72 \pm 78}{2 \cdot 5} = \frac{72 \pm 78}{10} \]
Получаем два возможных значения для \( v_{л} \):
\[ v_{л1} = \frac{72 + 78}{10} = \frac{150}{10} = 15 \]
\[ v_{л2} = \frac{72 - 78}{10} = \frac{-6}{10} = -0.6 \]
Так как скорость лодки не может быть отрицательной, выбираем положительное значение.
Скорость лодки в неподвижной воде равна 15 км/ч.
Проверим условие \( v_{л} > v_{т} \), то есть \( 15 > 3 \), что верно.
Ответ: 15 км/ч.