Пусть дан равнобедренный прямоугольный треугольник ABC (угол C = 90°, AC = BC), и квадрат CDEF, две вершины которого (D и E) лежат на катетах AC и BC соответственно, а две другие вершины (F и неизвестная точка) лежат на гипотенузе AB.
Пусть сторона квадрата равна a = 5 см. Пусть x - длина отрезка AD (и, соответственно, BE, так как треугольник равнобедренный). Тогда AC = BC = x + a = x + 5.
Треугольник ADF - равнобедренный прямоугольный (угол A = 45°, угол ADF = 90° + 45° = 135°, следовательно угол AFD = 45°). Поэтому AD = DF = x.
Проведем высоту из вершины C к гипотенузе. Пусть H - основание высоты. Тогда AH = BH = AB / 2.
Также, CH является медианой, поэтому CH = AH = BH.
Из прямоугольного треугольника ACH: $$AH = \frac{AC}{\sqrt{2}} = \frac{x+5}{\sqrt{2}}$$.
Расстояние от вершины квадрата, лежащей на гипотенузе, до вершины H равно высоте квадрата, то есть 5 см.
Имеем: $$AH = AF + FH = x + 5$$.
Следовательно, $$\frac{x+5}{\sqrt{2}} = x + 5$$
Умножим обе части на $$\sqrt{2}$$: $$x + 5 = \sqrt{2} \cdot 5$$
$$x = 5(\sqrt{2} - 1)$$.
$$AC = x + 5 = 5\sqrt{2}$$.
Гипотенуза $$AB = AC \sqrt{2} = 5\sqrt{2} \cdot \sqrt{2} = 5 \cdot 2 = 10$$
Значит, $$AH = AC \cdot \frac{\sqrt{2}}{2}$$.
С другой стороны, $$AH = AF + FH = AF + DE \frac{\sqrt{2}}{2} = x + 5$$.
Получаем, что $$AF + 5 = 5 \frac{\sqrt{2}}{2}$$.
Тогда $$AF = 5 \frac{\sqrt{2}}{2} - 5 \cdot \frac{\sqrt{2}}{2}$$.
Из прямоугольного равнобедренного треугольника ABC:
$$AB = \sqrt{AC^2 + BC^2} = \sqrt{(5+x)^2 + (5+x)^2} = \sqrt{2(5+x)^2} = (5+x)\sqrt{2}$$.
Но $$x = AF = AD = FD \cdot \sqrt{2} = 5(\sqrt{2} - 1)$$.
Тогда $$AB = (5 + 5(\sqrt{2} - 1))\sqrt{2} = 5\sqrt{2} \cdot \sqrt{2} = 10 \sqrt{2}$$.
Ответ: $$5(1+\sqrt{2})$$