да уж, действительно "тухлая" задача
функция Лагранжа получается такая?:

L=pi*r^2*h/3+pi*r^2*[(Q-pi*r^2-pi*r*sqrt(h^2+r^2)+2*pi*r^2)/2*pi*r]+λ*(pi*r*sqrt(r^2+h^2)+2*pi*r*(r+[(Q-pi*r^2-pi*r*sqrt(h^2+r^2)+2*pi*r^2)/2*pi*r]-Q)
λ-коэф. Лагранжа

П.С. я не издеваюсь no.gif , честно