Lutik, я Вас сейчас пристрелю!
1)случай - sin(pi*k/2)=0 => k=2n, n - целое.
Условие на производную:
c1*sin(2*n*pi)-c2*cos(2*n*pi)=0
n целое -> sin(2*pi*n)=0, cos(2*pi*n)=1 -> c1*0-c2*1=0 -> c2=0;
y=c1*cos(kx)=c1*cos(2*n*x)
Отдельно стоит рассмотреть случай k=0 -> y''=0, y=c1*x+c2;
c1*0+c2=c1*pi+c2 -> c1=0;
y'=c1 -> y'(pi)=c1=0 -> y=0.
Теперь рассматривайте второй случай.