при D>0
делаем
y=A sin x+B cos
y'= A cos-B sin
y"=-A sin-Bcos x

потом все это подставляем, вычисляем.

А тут что делать?