2x^(3)y'=y(2x^2-y^2)

Выносим xy справа за скобку

2x^(3)y'=yxy( 2x/y-y/x )

делим на 2x^3

y'=(y/x)^2 (2x/y-y/x)/2

Дальше подстановка, о которой я написал выше.