Подскажите, пожалуйста, как решить интеграл, или хотя бы в каком направлении двигаться:
int(arctg sqrt(x)* dx)

Удалось дойти до следующего:
int(arctg sqrt(x)* dx) = |U=arctg sqrt(x) =>dU= 1/2 sqrt(x)*(1+x) |
|dV=dx => V=x | =

= arctg sqrt(x) * x - int(x*(1/ 2*sqrt(x)*(1+x)))*dx

Верное ли решение, или решать нужно как-то иначе?

arctg sqrt(x) * x - int(x*(1/ [2*sqrt(x)*(1+x)])*dx

далее можно замену x=t^2

Тогда получается, так?
int(t^2*1/ (2t*(1+t^2)) )dt = int(t / 2*(1+t^2))dt=1/2 int(t/(1+t^2))dt

Распишите подробнее, как делали замену. Чему у вас получился равным dx.