Цитата(KiRilL29 @ 16.5.2011, 21:05) *

Я кажется понял. Раз А=0, то
y(c чертой)=xsin(x)

но тогда посчитав коэффициенты перед синусом и кисинусом получаем 2 решения.

х=-2/3
x=3/4

НЕт, скорее всего, вы неправильно поняли.
Посмотрите в разделе "Дифференциальные уравнения" вверху есть прикрепленная тема с литературой, посмотрите примеры там либо здесь и далее