Я решил и у меня получилось вот что:
n
S(x)=Sum[(A*sin(xi+C)+d-Yi)^2] -> min
i=1

dS/da=2*1/n*Sum[A*sin(xi+С)+d-Yi]*n*sin(xi+С)=0
dS/dС=2*1/n*Sum[A*sin(xi+С)+d-Yi]*n*A*cos(xi+С)=0
dS/dd=2*1/n*Sum[A*sin(xi+С)+d-Yi]*n=0

Правильно ли нашел, я сомневаюсь, курс этой математики давно был, подзабыть успел.