Решал методом Эйлера:
x^3*y'''+xy'=x-3/x
x=e^t
t=lnx
y'=(dy/dt)*e^(-t)
y''=(((d^2)y/dt^2)-dy/dt)*e^(-2t)
после подстановки и сокращения получилось:

((d^3)y/d(t^3))-3(d^2)y/dt^2+3dy/dt=0

y=y(общее)+у*1+у*2

общее решение нашёл: y=c1+c2*e^(3/2х)*cos((корень3/2)x)+c3*e^(3/2х)*sin((корень3/2)x)

частное решение 1:((d^3)y/d(t^3))-3(d^2)y/dt^2+3dy/dt=е^t

частное решение 2: ((d^3)y/d(t^3))-3(d^2)y/dt^2+3dy/dt=-3/(e^t)

1)частное решение y*1=xAe^x
y'*1=Ae^x+xAe^x
y'*1=2Ae^x+xAe^x
y''*1=3Ae^x+xAe^x

тогда 3Ae^x+xAe^x-3*(2Ae^x+xAe^x)+3Ae^x+3xAe^x=e^x
сократилось и получилось
xAe^x=e^x
A=1
тогда у*1=xe^x

2)((d^3)y/d(t^3))-3(d^2)y/dt^2+3dy/dt=-3/(e^t)
опять рассматривать как
y'*1=Ae^x+xAe^x
y'*1=2Ae^x+xAe^x
y''*1=3Ae^x+xAe^x
из этого следует что A=-3

y*2=-3xe^x
y=c1+c2*e^(3/2х)*cos((корень3/2)x)+c3*e^(3/2х)*sin((корень3/2)x)+xe^x-3xe^x
Правильно?

Вы забываете всё время,что переходите к другой переменной.