О боже... напишите пожалуйста по-нормальному...

lim (x->0) ( (cos(x) - cos(3x))/(x^2) )

Так?

и где Ваши наработки?