Всё ясно, я то, что в формуле b(k) получил (разность двух косинусов как у Вас) свернул как произведение ,и там одно из слагаемых получилось sin (pi*k), что даёт ноль... Значит так делать нельзя? А то я так же сворачивал и a(k)...
И что всё таки это за factor?
у меня везде множитель 1/5 впереди...