Ясно, что это расстояние должно зависеть от радиуса окружности r и выражаться через него.

Проведем диаметр AD. Обозначим угол DAC через а (меняется от 0 до 90 градусов). Из прямоугольного треугольника ADC:
AC=2r*cosa.
Тогда площадь треугольника
S(a)=(1/2)*(2*r*cosa)^2*sin(2a)=4r^2*sina*(cosa)^3
Производная
S'(a)=4r^2*(cosa)^2*[(cosa)^2-3*(sina)^2]

Отсюда оптимальное а=30 градусов.
А нужное расстояние
h=AC*cosa=2r*(cosa)^2=(3/2)*r

Проверяйте.