Получается следующее:
int(1/(3-2*cos(2*x)+3*cos^2(2*x)))dx
Если домножать на косинусы или cos2x обозначать за t - вылезет корень в итоге, если от него избавляться - опять 4-я степень, ничего путного.

В одном задачнике нашла похожий пример, все осложняется тем, что у нас перед синусом стоит 2-ка, все портит. смысл в том, что числитель и знаменатель делятся на t^2, после чего числитель вносится под дифференциал, в знаменателе выделяется полный квадрат и все отлично получается. Из-за этой двойки ничего не выйдет, прибавим и отнимем sqrt(2) и в итоге опять будем вынуждены считать интеграл (1-sqrt(2))/(1+t^4).
Замкнутый круг.