вначале находите производную функции z по х, считая у константой:
dz/dx=(cos(xy^2))'=-sin(xy^2)*(xy^2)'=-sin(xy^2)*y^2
Аналогично находите частную производную по у.
P.S. d здесь круглые
P.S.1 Поищите примеры на форуме, подобные вопросы поднимались неоднократно.