неправильно преобразовали.
sqrt(1+ [2x-2/x]^2 ) дальше приведите к общему знаменателю.