Ошибку нашёл в вычислении "b(n)", (там конечно 1/pi*[(-cos pi n/n)+1/n), ведь cos0=1, . Неправильно с черновика переписал. Извините.