Решение соответствующего ОДНОРОДНОГО уравнения получено верно:
y=e^(-x)(C1cosx+C2sinx).
Но почему вы прибавляете к нему потом просто правую часть исходного уравнения?
К нему прибавляется функция вида
y=ax^2+bx+c
с неопределенными коэффициентами а, b, с.
Предварительно эти коэффициенты определяются подстановкой этой функции в исходное уравнение из требования его выполнения.