В подстановке должно быть t=tg(x/2), тогда sinx=2t/(1+t^2),dx=2dt/(1+t^2)
соответственно пределы интегрирования t1=sqrt(3)/3, t2=sqrt(3)
sqrt(n) - корень из n
Досадная ошибка приводит к большим усложнениям. Спасибо, я уже всю голову сломал. ответ ln3