только конец выражения перепишите так
1+cos^2 a-sin^2а =1+cos2a

Я это выражение лучше полностью перепишу и с подстановкой, а-то немного путаница получилась

2sin^2(2a)-sin2a+1+cos2а = 2*(1/2)^2 - (1/2) + 1 + (корень из 3)/2 = 1 + (корень из 3)/2

то есть ответами сходимся.