до Yчн=(A*X+B )*e^(-X) правильно
а Y'чн=A*e^(-X)+(A*X+B )*e^(-X) нет , производная от e^(-x)=-e^(-x), поэтому
Y'чн=A*e^(-X) - (A*X+B )*e^(-X)

сейчас досчитаю дальше и подскажу