Начните с поиска такой точки на верхней ветви параболы y=sqrt(2px).
Пусть Р - произвольная точка на ней с координатами (a,sqrt(2pa)).
Найдите уравнение нормали y=-(1/f'(а))*(x-а)+f(а) при f(x)=sqrt(2px).
Найдите координаты точек пересечения нормали с параболой, решив систему
y^2=2px
y=-(1/f'(а))*(x-а)+f(а)
Найдите расстояние (а удобнее даже квадрат расстояния) между полученными точками.
Найдите минимум по а полученного выражения (a>=0).
Учтите, что в ответ войдет и симметричная точка (a,-sqrt(2pa)).