По формуле Остроградского:

Т.е. получаем П=-6*(1/24)=-1/4.
а где в ваших вычислениях ошибка не соображу. Скорее всего неправильно раставлены пределы интегрирования.
я тут ещё спрашивал на другом форуме, мне подчеркнули, что нужно найти поток через полную поверхность, но тут уж всё, что значит через полную?