Пропущен х. В прикрепленном уравнении после у' стоит х:
у' *x*(cosx)^2+2y*(cosx)^2=2x*sqrt(y)

Замена: ищем функцию z=z(x), такую, что y=z^2.

Тогда для z получается линейное уравнение с постоянными коэффициентами:

z'+(1/x)*z=1/(cosx)^2

Решается стандартно.