Дан полином степени n, вида:
P=(x-x0)(x-x1)(x-x2)...(x-x(n-1))
например 3-й степени.
a=(x-x0)(x-x1)(x-x2)
известно: а, x0, x0-x1=x1-x2=h, - т.е шаг равный
x1, x2 - не известны.
нужно подобрать h- максимально большое, чтобы полином был меньше или равным (а) для всех x из интервала [x0, x2]
не соображу как это решить?

Если так, то в исходное уравнение подставлять ничего не нужно. Это означает, что своего наибольшего по модулю значения функция достигает в точке (h+2)/2.
Учитывая, что это парабола, можно было найти эту точку проще: x=-b/(2a).
Итого мы имеем: чем больше h по модулю, тем больше значение функции. Значит аш стремится к бесконечности.