Y''+2Y'+2Y=Xe^(-X); Y'(0)=Y(0)=0
Yон=Yoo+Yчн
k^2+2*k+2=0
D=-4
k1=-1+i
k2=-1-i
Yoo=e^(-1X) *(C1*cos(X)+C2sin(X))
Yчн=(A*X+B )*e^(-X)
Y'чн=A*e^(-X)+(A*X+B )*e^(-X)
Y''чн=A*e^(-X)+A*e^(-X)+(A*X+B )*e^(-X)
A*e^(-X)+A*e^(-X)+(A*X+B )*e^(-X)+2(A*e^(-X)+(A*X+B )*e^(-X))+2((A*X+B )*e^(-X))
После сокращения:
e*(-X) *(A+A*X+B )=0
A*X=-A-B
X: ?
Xo: ?
Дальше незнаю. Могот быть ошыбки в решении.

до Yчн=(A*X+B )*e^(-X) правильно
а Y'чн=A*e^(-X)+(A*X+B )*e^(-X) нет , производная от e^(-x)=-e^(-x), поэтому
Y'чн=A*e^(-X) - (A*X+B )*e^(-X)

сейчас досчитаю дальше и подскажу

про y' и у'' уже написали

дальше подставляем в уравнение и после преобразований, получаем е^(-x)*(B+Ax)=x*е^(-x)
отсюда приравнивая коэффициенты при одинаковых степенях х, получим: А=1, В=0
тогда у(ч)=х*е^(-x)
и Y=e^(-X) *(C1*cos(X)+C2sin(X))+х*е^(-x)

Y'=-e^(-X) *(C1*cos(X)+C2sin(X))+e^(-X) *(C2*cos(X) - C1sin(X))+e^(-X) -x*e^(-X)

дальше подставляйте в эти уравнения начальные условия, найдёте с1 и с2
ответ можете написать, сверим (IMG:style_emoticons/default/smile.gif)