представить (cos(2x))^2=1-(sin(2x))^2, дальше подстановка sin(2x)=p и решить как квадратное уравнение. Корни с |p|<=1 отбросить