1) x^2 внесите под знак дифференциала
2) скобки расставьте. Не понятно.
3) По частям u=arctg(x)