Дан полином степени n, вида:
P=(x-x0)(x-x1)(x-x2)...(x-x(n-1))
например 3-й степени.
a=(x-x0)(x-x1)(x-x2)
известно: а, x0, x0-x1=x1-x2=h, - т.е шаг равный
x1, x2 - не известны.
нужно подобрать h- максимально большое, чтобы полином был меньше или равным (а) для всех x из интервала [x0, x2]
не соображу как это решить?

Нет, стоп. Ерунда, вы что, забыли как квадратные уравнения решаются? Конечно корни при x=(6[+-]3^(0.5))/3.
[+-] означает "плюс или минус".