(*) Допустим, что lim Xn(n->00) существует.

Тогда обозначим его значение через а, затем перейдем к пределу в равенстве Xn+1=1/2[Xn+(2/Xn)].
Получим уравнение для а:

а=1/2[а+(2/а)]

Решив, получите.
Самое сложное - доказать (*).
Обычно это делают, доказав монотонность и ограниченность этой последовательности.