У меня вот что получилось.
Сделаем две замены: z=x^2 + y^2 и t = y/x. Тогда
dz/2 = x*dx + y*dy;
dt = (x*dy - y*dx)/(x^2) и подставим в уравнение:
dz/2 = (x^2*dt ) / (z)
Кроме того, y = t*x -> z = x^2 *(1+t^2) -> x^2 = z/(1+t^2)
Получим:
z*dz/2 = dt * z/(t^2+1)
Поскольку z<>0, можем на него сократитить,в итоге поучим:
dz/2 = dt/(t^2 + 1)
z = 2*arctan(t) + C
x^2 + y^2 - 2*arctan(y/x) = C
Как-то так