1. Сначала лучше находите производные в произвольной точке, а затем уже поставляйте заданную, т.е.
f'(x), а затем f'(x0).
2. Производные порядка 4 и выше обозначаются римскими числами, а не штрихами.
3. Когда подставляли в формулу, делили на 1, 2, 3,... а на до было, на 2!, 3!...
4. Остаточный член - это 6-я производная, она у вас получилась равной -120/х^6. А когда находили ее в точке (a+teta(x-a)), коэффициент и степень где-то потерялись.