y''+6y'+9y=(7x-11)*e^x
k^2+6k+9=0
его корни k 1,2=-3
y=C1*e^(-3x)+C2*x*e^(-3x) - общее решение однородного уравнения
Частное решение ищем в виде:
y*=(Ax+B )*e^x
2Ae^x+(Ax+B )*e^x+6Ae^x+6*(Ax+B )*e^x+9*(Ax+B )*e^x=(7x-11)e^x
e^x(24A+16B )=(7x-11)*e^x
A=7/24, B=-11/16
y*=((7/24)*x-11/16)*e^x
y=C1*e^(-3x)+C2*x*e^(-3x)+((7/24)*x-11/16)*e^x

верно

так

Как такое получили? Чему у вас равна вторая производная функции y*?
А и В найдены неверно.

Первая производная: y'= A*e^x+(Ax+B )*e^x
Вторая производная: y''=2*A*e^x+(Ax+B )*e^x
Верно?

Верно, и у меня так. А коэффициенты что-то другие получились. Я перепроверяю еще раз себя, вы себя. Затем результаты сравниваем.

В левой части в скобках где-то х должен быть?!
Подставили все правильно. Теперь аккуратно сведите подобные.

вот что у меня получилось:
(8A+16Ax+16B)*e^x=(7x-11)*e^x
8A+16Ax+16B=7x-11
16A=7 A=7/16
8A+16B=-11
B=-29/8

А такое получилось. В неправильно нашли. Еще раз посчитайте.

B=-29/32
y=C1*e^(-3x)+C2*x*e^(-3x)+((7/16)*x-29/32)*e^x

Дя-я-я-я!!!!

Спасибо за помощь!

Пожалуйста!