во-первых, вы неправильно нашли производные.
производная от (1-ctg[x]) не равна 1/cos^2[x]. это получается только в случае замены этого выражения на тангенс, а потом дифференцирования.
аналогично замените и знаменатель на тангенс, затем ПРАВИЛЬНО его продифференцируйте и перейдите к двухэтажной дроби.
предел затем красиво рассчитывается при делении числителя и знаменателя на синус