Какая-то странная производная получилась.
Видимо Вы использовали какую-то белибердовую формулу.
[(x^3 + sqrt5) / (x^3 - sqrt5)] ' = [(x^3 + sqrt5)' *(x^3 - sqrt5) - (x^3 + sqrt5)*(x^3 - sqrt5)' ] / (x^3 - sqrt5)^2 = ...
я наверное еще и про знаменатель забыла, вообще дурдом...