Как решить уравнение:
x(y'-y)=(1+x^2)e^x;
Начало у меня токое:
xy'-xy=e^x+x^2e^x;
xy'-xy-x^2e^x=e^x;
xy'-xy-x^2e^x=0;
y'-y=xe^x...
правильно ли это и что делать дальше?

y'-y=e^x(1+x^2)/x

Решаете однородное y'-y=0, а потом варьируете постоянную.

Нет. Исходное уравнение делите на х и получаете линейное неоднородное ду.