D=A^2-2A+1=(A-1)^2
X1=((a+1)+(a-1))/2=a
x2=((a+1)-(a-1))/2=1
Почему делите на 2? Ведь должно делиться на 2, которое умножается на коэффициент при x^2. А у вас он не равен 1.
Цитата
Подставить их в исходную функцию (с результатом опечатался)?
И что это вам даст? Вам теперь с учетом полученных значений, надо найти решение неравенства (a+1)*x-x^2-a>=0
П.С. Изначально на параметр никаких ограничений не накладывается?