Должно получится примерно следующее:
0 <= z <= x + 2y
Находим пределы по х и у с помощью полярных координат:
x = r * cos fi, y = r * sin fi
x^2 + y^2 <= 2x => r^2 <= 2r * cos fi => r <= 2 * cos fi
Так как r >= 0, то cos fi >= 0
x^2 + y^2 <= 2y => r^2 <= 2r * sin fi => r <= 2 * sin fi
Так как r >= 0, то sin fi >= 0
cos fi >= 0, sin fi >= 0 => 0 <= fi <= pi/2
Осталось сравнить cos fi и sin fi.
cos fi >= sin fi => 0 <= fi <= pi/4
Тогда получаем, что
V = int (0 pi/4) dfi int (0 2 * sin fi) r * (r * cos fi + 2 * r * sin fi) dfi + int (pi/4 pi/2) dfi int (0 2 * cos fi) r * (r * cos fi + 2 * r * sin fi) dfi