z = (x * y)^(1/2)
А область интегрирования - квадрат.
Решается с помощью двойного интеграла.