используйте формулы
cos2x=1-2(sinx)^2
cos4x=1-2(sin2x)^2
sin2x=2sinxcosx

после подстановка t^2=(sinx)^2 и получите уравнение 4t^3+8t^2-11t+3=0 дальше разложить левую часть на множители