В правой части стоит -cosx, а решение однородного y=e^(-x)(c1*cos2x+c2*sin2x). аргументы разные, поэтому на корни характеристического уравнения можно не обращать внимание (т.е. домножения на х в какой-то степени не будет). Во-вторых, у вас экспонента в нулевой степени. Поэтому частное решение ищем в виде: у*=e^0(Аcosx+Вsinx)=Аcosx+Вsinx