Можно проще: z(x) = y'(x); z'(x) = y''(x), тогда
z' = sqrt(1+z^2) - переменные легко разделяются.
Интегрируете, находите z(x). По пути можно сразу начальные условия подставить. Потом ещё раз интегрируете - находите y(x).