1) y''+4y=sin2x+1, y(0)=3, y'(0)=9
2) y''cosx x+ y'sinx=0, y(0)= -1/4, y'(0)=2
1) т.к. корни характеристического уравнения y''+4y=0 комплексные (=+-4i), то общее решение однородного уравнения y''+4y=0 имеет вид

y=C1sin2x+C2cos2x. Функции С1 и С2 попытаемся найти, опираясь на следующую систему
С'1sin2x+C'2cos2x=0
C'1cos2x-c'2sin2x=sin2x+1/
пока правильно?

Т.Е. будет вот такая система
С'1sin2x+C'2cos2x=0
2C'1cos2x-2С'2sin2x=2sin2x+2

Из первого уравнения системы имеем
C'1sin2x=-C'2cos2x
C'1=-C'2 (cos2x/sin2x)

т.е. C'1=-C'2ctg2x

Зачем Вы всё домножили на 2? Если есть два решения y1 и y2 уравнения y''+a*y'+b*y=f(x), то функции С1 и С2 находятся из системы
С1'*y1+C2'*y2=0;
C1'*y1'+C2'*y2'=f(x)