y''+y'+y=e^x, y(0)=0, y'(0)=1
t^2+t+1=0
Подскажите, пожалуйста, как мне решать дальше это уравнение, если D=-3?

вот, что у меня получилось:

y=C1*e^((-1/2)*x)*Cos((sqrt(3)/2)*x)+C2*e^(-1/2)*Sin((sqrt(3)/2)*x)

y'=(-1/2)*e^((-1/2)*x)*Cos((sqrt(3)/2)*x)*(C1-sqrt(3)*C2)-
(1/2)*e^((-1/2)*x)*Sin((sqrt(3)/2)*x)*(C2+sqrt(3)*C1)

Как найти С1 и С2?

Т.е. так (IMG:http://i065.radikal.ru/1010/a1/752586e3b503.png)?

Вы нашли решение однородного уравнения (в правой части 0), а у вас по условию задано неоднородное, т.к. там стоит e^x. Ищите теперь его решение.
А затем уже перейдем к отысканию неизвестных констант из заданных начальных условий.