b = -(4/(pi*n))*cos(pi*n)
Осталось сообразить,что cos(pi*n) = (-1)^n.
Ещё а0 нашли неправильно,посмотрите внимательно.