значит
Yчн=Axsin(x)+Bsin(x)+Cxcos(x)+Dcos(x)
Yчн'=Asin(x)+Axcos(x)+Bcos(x)+Ccos(x)-Cxcos(x)-Dsin(x)
Yчн''=Acos(x)+Acos(x)-Asin(x)-Bsin(x)-Csin(x)-Ccos(x)+Cxsin(x)-Dcos(x)
поправьте если ошибаюсь

И дальше подставлять?

Что-то большое уравнение получается, видимо намудрил чего.