Цитата(Alexunder09 @ 22.5.2010, 10:44) 
y"+5y'+6y=(x^2)+3x-1
2*A+10*A*x+10*B+6*A*(x^2)+6*B*x+6*C=(x^2)+3*x-1
Выделенный коэффициент перепроверьте.
Для нахождения коэффициентов надо воспользоваться тем фактом, что два многочлена равныЮ, когда равны коэффициенты при соответствующих степенях.