SSx^2dydz + y^2dzdx + z^2dxdy
C: x^2 + y^2 = 1, z = 0, z = a

Используя формулу Остоградского:
0 2pi 1 a
Sdx Sd(fi) Sp^3dp S(2x + 2y + 2z)dz
1 0 0 0

Пожалуйста помогите! Всё правильно я сделал до этого места?

Если переходите в ЦСК, то это нужно делать до конца.
x=rcos(fi);
y=rsin(fi);
z=h.
Сверните формулу обратно.
SSx^2dydz + y^2dzdx + z^2dxdy=SFndS, где F=x^2i+y^2j+z^2k, тогда по формуле Г-О
П=SSSdivFdV и переходите в ЦСК.

Не понял ничего
Можете разъяснить по-подробнее?

А вообще можно как-то решить, не переходя к ЦСК?

Можно и без ЦСК, но с ней проще. Как могло получиться, что интеграла стало 4? При переходе к ЦСК интегрирование по х уже не ведется.