Хорошо) S - вместо значка интеграла, везде от 1 до 3.
а0=1/l*S(от 1 до 3)f(x)dx=Sf(x)dx=(x^2)/2|=4,5-0,5=4

an=1/l*S f(x)*cos(n*(Pi/l)*x)dx=Sx*cos(Pi*n*x)dx=[x*sin(Pi*n*x)/Pi*n+cos(Pi*n*x)/(Pi*n)^2]|(3;1)=3sin(3*pi*n)/pi*n+cos(3*pi*n)/(pi*n)^2 - sin(pi*n)/pi*n - cos(pi*n)/(pi*n)^2=?

Жаль, что функция нечетная:

bn=1/lS f(x)*sin(n*(Pi/l)*x)dx=S x*sin(Pi*n*x)dx=[-x*cos(Pi*n*x)/Pi*n + sin(Pi*n*x)/(Pi*n)^2=-3cos(3*pi*n)/pi*n + sin(3*pi*n)/(pi*n)^2 + cos(pi*n)/pi*n - sin(pi*n)/(pi*n)^2