Найти частное решение диф. уравнения, удовлетворяющее начальным условиям. y''-3y'-4y=17sinx; y(0)=4, y'(0)=0
решение:
y(x)=Yoo+Yчн
1) Yoo: k^2-3k-4=0
D=25
K1=-1
K2=4
Yoo=C1e^(-x) +C2e^(4x)
2) Yчн: F(x)=17sinx
a=0, b=0
а дальше вот не знаю как

Используйте метод неопределённых коэффициентов:
y(x)=a*sin(x) + b*cos(x)
Дифференцируете,подставляете в уравнение,находите a и b и получаете частное решение.

всмысле взять y(x)=a*sin(x) + b*cos(x), и представить в виде y' и y''???

Ну да.

А потом подставить в исходное уравнение приравнять коэффициенты справа и слева при sin x и cos x.

Найдите первую и вторую производную от этой функции,подставьте в своё уравнение и приравняйте соответствующие коэффициенты при синусах и при косинусах.При косинусе в данном случае коэффициент равен 0, а при синусе 17.

y'=acosx-bsinx ?

y''=-asinx-bcosx ?

такие или нет?

Такие.

-asinx-bcosx-3acosx+3bsinx-4asinx-4bcosx=17sinx ? тааак

пример
пример1
пример2

Yчн=-2.5sinx+1.5cosx ?

скажите пожалуйста правильно или нет?

правильно

А дальше, что с y(0)=4, y'(0)=0 делать?

y = y_o + y_ч
Потом находим С1 и С2, при которых y(0) = 4, y'(0) = 0

случайно С_2=8/2, С_1=0 ?

нет

разве не от y = y_o*С_1 + y_ч*С_2 ?

С1 и С2 относятся только к у_ч

Yчн=-2.5sinx*С_1+1.5cosx*С_2 ?

То есть я хотел сказать к у_общ
y = y_o + y_ч
Потом находим С1 и С2, при которых y(0) = 4, y'(0) = 0
y = C1e^(-x) +C2e^(4x) -2.5sinx+1.5cosx

С_2=1, С_1=1,5 ?

Да.

А ответ как записать, подскажите пожалуйста?

Вместо С1 и С2 подставить полученное.