Цитата(Marrusya @ 9.5.2009, 23:27) 
y' = - C1e - xcos(3x)-3C1e - xsin(3x) + 3C2e - xcos(3x) + - C2e - xsin(3x)
С учетом начальных условий:
y(0) = C1=0
y'(0) = - C1+3C2=0.75
Про начальные условия в первом сообщении ничего не сказано.
Цитата
Acos 2x + Bsin2x
Правильно. Теперь подставляйте в исходное уравнение.