Если не ошибаюсь, то
I = int int (x^2 + y^2) dx dy
Осталось найти пределы интегрирования.