Ой, извиняюсь. Бред написал. Конечно же зет не нуль. У меня вышло, что rotF=(2y-x)i+(2y)j+(-z)k, отсюда
Ц=intint(n*rotFdS)=intint-zdxdy, а зет я думаю нужно найти из пересечения сферы x^2+y^2+z^2=25 с цилиндром x^2+y^2=16