Первая производная: y'= A*e^x+(Ax+B )*e^x
Вторая производная: y''=2*A*e^x+(Ax+B )*e^x
Верно?
Верно, и у меня так. А коэффициенты что-то другие получились. Я перепроверяю еще раз себя, вы себя. Затем результаты сравниваем.

e^x(24A+16B )=(7x-11)*e^x
В левой части в скобках где-то х должен быть?!
Подставили все правильно. Теперь аккуратно сведите подобные.