y''+6y'+9y=(7x-11)*e^x
k^2+6k+9=0
его корни k 1,2=-3
y=C1*e^(-3x)+C2*x*e^(-3x) - общее решение однородного уравнения
Частное решение ищем в виде:
y*=(Ax+B )*e^x
2Ae^x+(Ax+B )*e^x+6Ae^x+6*(Ax+B )*e^x+9*(Ax+B )*e^x=(7x-11)e^x
e^x(24A+16B )=(7x-11)*e^x
A=7/24, B=-11/16
y*=((7/24)*x-11/16)*e^x
y=C1*e^(-3x)+C2*x*e^(-3x)+((7/24)*x-11/16)*e^x

верно

так

Как такое получили? Чему у вас равна вторая производная функции y*?
А и В найдены неверно.