извините, допустил ошибку, пропустил показатель степени. правильный вариант: n-(n^2-1)^0.5 / (n(n+1))^0.5