Пусть стороны основания прямоугольного параллелепипеда равны a и b. Диагональ параллелепипеда составляет с боковой гранью, содержащей сторону основания, равную b, угол в 30°.
Пусть высота параллелепипеда равна h, а диагональ d. Тогда
$$d^2 = a^2 + b^2 + h^2$$
Диагональ составляет угол 30° с боковой гранью, содержащей сторону b, то есть $$d \cdot cos(30°) = \sqrt{b^2 + h^2}$$
Отсюда $$d \cdot \frac{\sqrt{3}}{2} = \sqrt{b^2 + h^2}$$
$$d^2 \cdot \frac{3}{4} = b^2 + h^2$$
$$d^2 = \frac{4}{3} (b^2 + h^2)$$
Подставим в первое уравнение: $$ \frac{4}{3}(b^2 + h^2) = a^2 + b^2 + h^2$$
$$\frac{4}{3}b^2 + \frac{4}{3}h^2 = a^2 + b^2 + h^2$$
$$\frac{1}{3}b^2 + \frac{1}{3}h^2 = a^2$$
$$b^2 + h^2 = 3a^2$$
$$h^2 = 3a^2 - b^2$$
$$h = \sqrt{3a^2 - b^2}$$
Объем параллелепипеда равен:
$$V = a \cdot b \cdot h = a \cdot b \cdot \sqrt{3a^2 - b^2}$$
Ответ: $$ab\sqrt{3a^2 - b^2}$$