О, Спасибо большое!. Но я все равно как то неправильно решила, посмотрите пожалуйста:

y'=(Acosx+Bsinx)+ x*(-Asinx+Bcosx)
y''=(Acosx+Bsinx)+(-Asinx+Bcosx)+x*(-Acosx-Bsinx)
подставляем
Acosx+Bsinx-Asinx+Bcosx+x*(-Acosx-Bsinx)+x*(Acosx+Bsinx)=2(sinx+2cosx)
(A+B)cosx+(B-A)sinx=2sinx+4cosx
B-A=2
A+B=4

A=1; B=3 ?