Пусть сторона квадрата равна x.
Треугольник, образованный верхней стороной квадрата и вершиной C, подобен исходному треугольнику ABC.
Высота этого маленького треугольника равна h - x.
Из подобия треугольников следует пропорция:
$$ \frac{h-x}{h} = \frac{x}{a} $$Решим уравнение относительно x:
$$ a(h - x) = hx $$ $$ ah - ax = hx $$ $$ ah = hx + ax $$ $$ ah = x(h + a) $$ $$ x = \frac{ah}{a + h} $$Таким образом, сторона квадрата равна $$\frac{ah}{a + h}$$.
Ответ: $$\frac{ah}{a + h}$$