1) y'-4xy=x

u'v+uv'-4xvu=x
u(v'-4xv)+u'v=x
Выражение в скобках приравняем к 0:
v'-4xv=0
dv/dx= 4xv
dv/v=4xdx
lnv=2x^2
v=e^(2x^2)
Подставим v в уравнение:
u'e^(2x^2)=x
du/u=xdx/(e^(2x^2))

Никак не могу найти u?

2) (x^2+y^2)dx+xydy=0
В результате подстановки получим:
(x^2+x^2*u^2)dx+x*y*(udx+xdu)=0
x^2dx+x^2*u^2dx+x*y*udx+x^2ydu=0

Как его упростить?

3) y''+y'/x=0
y'=z
y''=z'
z'+z/x=0
u'v+v'u+uv/x=0
v(u'+u/x)+uv'=0
u'+u/x=0
du/u=-dx
u=1/cx

v'u=0
dv/dx*u=0
v=c
произведем обратную замену:
z=uv=1/x
y=int(1/x)dx=-1/x^2 +c
Здесь верно?

а тут маленькая опечатка, должно быть просто du=xdx/(e^(2x^2))
и если ещё раскрыть скобки, будет ответ получше: y=-1/4 + Ce^(2x)

а 2. нужно всё-таки решать как посоветовала tig81
ваше уравнение можно преобразовать к виду:
сначала разделим на dx:
x^2+y^2+xyy'=0
потом перенести что без y' в правую часть и разделить всё на xy, получим:
y'= -x/y - y/x
и решать заменой y/x=z
вот

здесь тоже небольшая опечатка
y=-1/4 + Ce^(2x^2)
Я права?

У меня вопрос насчет 2:
y'= -x/y - y/x
замена у/х=z, получается
у'=-1/z-z
как тут представить y' ?

похоже на то

у/х=z => y=zx => y'=(zx)'=z+xz'.

z'x'=z+xz'.
z'(x'-x)-z=0
Оно так решается?

Как такое получили из y'= -x/y - y/x?
z+xz'=-1/z-z.

я что-то не пойму как дальше решать? каким методом?

А если так записать?!
z+xz'=-1/z-z => xz'=-1/z-2z => xdz/dx=-(1+2z^2)/z... Очень похоже на уравнение с разделяющимися переменными. Или нет?