1) y''+4y=sin2x+1, y(0)=3, y'(0)=9
2) y''cosx x+ y'sinx=0, y(0)= -1/4, y'(0)=2
1) т.к. корни характеристического уравнения y''+4y=0 комплексные (=+-4i), то общее решение однородного уравнения y''+4y=0 имеет вид

y=C1sin2x+C2cos2x. Функции С1 и С2 попытаемся найти, опираясь на следующую систему
С'1sin2x+C'2cos2x=0
C'1cos2x-c'2sin2x=sin2x+1/
пока правильно?

Откуда у Вас в уравнении взялись вообще мнимые единицы? Вы нашли решения однородного уравнения: y1=sin(2x), y2=cos(2x); нашли неизвестные функции С1 и С2:
С1=-1/16*сos4x+1/4* sin2x+А
С2=-1/4*x+1/16(sin4x)+1/4(cos2x)+ B
Теперь записываете общее решение:
y=sin(2x)*(-1/16*сos4x+1/4* sin2x+А)+cos(2x)*( -1/4*x+1/16(sin4x)+1/4(cos2x)+ B ).
Дифференцируете, подставляете начальные условия - y(0)=3, y'(0)=9.
Получается 2 уравнения на неизвестные константы, из которых они и находятся.