В подстановке должно быть t=tg(x/2), тогда sinx=2t/(1+t^2),dx=2dt/(1+t^2)
соответственно пределы интегрирования t1=sqrt(3)/3, t2=sqrt(3)

sqrt(n) - корень из n