вот что у меня получилось:
(8A+16Ax+16B)*e^x=(7x-11)*e^x
8A+16Ax+16B=7x-11
16A=7 A=7/16
8A+16B=-11
B=-29/8