Наверное с косинусом так не надо делать... Надо раскрыть скобки, вынести общий множитель, а затем считать пределы.