о чертеже. в принципе, цилиндр бесконечен. но в вашей задаче он снизу ограничен (по условию)плоскостью хоу (ее уравнение z=0)

при переходе от декартовых к цилиндрическим координатам dz остается в том же виде, а вот dxdy заменяются на r*dr*df/
про этот r часто забывают

объем нашли правильно. (при решении через цилиндричесие координаты мне хватило бумажки в 1/8 листа А4 )