Цитата(Лилу @ 6.4.2009, 19:30) 
y''+6y'+9y=(7x-11)*e^x
k^2+6k+9=0
его корни k 1,2=-3
y=C1*e^(-3x)+C2*x*e^(-3x) - общее решение однородного уравнения
верно
Цитата
Частное решение ищем в виде:
y*=(Ax+B )*e^x
y*=(Ax+B )*e^x
так
Цитата
2Ae^x+(Ax+B )*e^x+6Ae^x+6*(Ax+B )*e^x+9*(Ax+B )*e^x=(7x-11)e^x
Как такое получили? Чему у вас равна вторая производная функции y*?
А и В найдены неверно.