Вкратце напишу как я решал.
y'*x*lnx-y=3x^(3)*ln^(2)x |:x*lnx
y'-y=(3x^(3)*ln^(2)x)/x*lnx
y'-y=3x^(2)*lnx
y'=u'*v+u*v'
y=u*v
u'*v+u*v'-uv=3x^(2)*lnx
u'*v+u[v'-v]=3x^(2)*lnx
v'-v=0 v'=dv/dx
(dv/dx)-v=0 |*dx
dv-vdx=0 |:v
(dv/v)-dx=0
dv/v=dx
Все дальше я затормозил


Заранее благодарен. Ваш вечный студент
