Выразите объем конуса через высоту и радиус основания.
Выразите радиус основания через высоту h и подставьте в формулу для объема.
Найдите максимум этой функции по h с помощью производной.