Желательно увидеть полное решение.
Вопрос, что делать с интегралом или в чем тупик? Косинус расписывайте по формуле дфойного угла, единицу - через основное тригонометрическое тождество с половинными аргументами.