Выражаете синус 2х через косинус 4х, квадрат синуса 4х через квадрат косинуса 4х из тригонометрического тождества и получаете квадратное уравнение относительно косинуса 4х.