Сначала надо понизить степень косинуса: cos^2 x = (1 + cos 2x)/2
А затем проинтегрировать два раза по частям.