График касательной имеет уравнение
y = f(x0) + f'(x0)(x-x0)
Найдём ординату точки пересечения касательной с осью Oy.
y(0)=f(x0)-x0*f'(x0)
По условию длина отрезка касательной между осями координат равна некой константе a.
Т.е., для любого x0
(f(x0)-x0*f'(x0))^2 + x0^2 = a^2
Собственно, Вам нужно решить диф. уравнение
(f(x) - x*f'(x))^2 +x^2 = a^2.
Удачи)