с2 получилось
с2=(-с1*(cos(k*pi)-1))/(sin(k*pi))
во второе подставив
-k*c1*sin(k*pi)+k*cos(k*pi)*(-с1*(cos(k*pi)-1))/(sin(k*pi))=0
-k*c1*sin^2(k*pi)-k*с1*cos^2(k*pi)+с1*cos(k*pi)=0
т.к -k*c1*sin^2(k*pi)-k*с1*cos^2(k*pi)=1
минус1+с1*cos(k*pi)=0
с1*cos(k*pi)=1
с1 не равно 0
cos(k*pi)=1
k*pi=pi+pi*n - собственное значение
k=(pi+pi*n)/pi
y=с1*cos((pi+pi*n)/pi)x - собственная функция