Что касается именно этого интеграла, то здесь надо выделять целую часть.
Ну если честно, то это не очень подробно.
Итак, если x=t^4, то sqrt(x)=t^2. Так? Тогда sqrt(1-sqrt(x))=sqrt(1-t^2), аналогично sqrt(1+sqrt(x))=sqrt(1+t^2). А у вас не так получилось.

((1-t)/(1+t))*t^3=(-t^4+t^3)/(1+t). Далее делим в столбик или "уголком" многочлен на многочлен.