Это дифференцирование функции y=( Ax+B )*e^(5x), а не y=x*( Ax+B )*e^(5x).