будет так,
(1/x)=(1'x-x'1)/x^2=(x-1)/x^2

значит
y'=(x^2+x+1/x)^(-4/5)*(2x+1+((x-1)/x^2))=
=(2x+1+((x-1)/x^2))/(sqrt{5}(x^2+x+1/x)^4)=

приведем выражение в знаменателе к общему знаменателю:
=(2x+1+((x-1)/x^2))/(sqrt{5}((x^3+x^2+1)/x)^4)

сейчас правильно?