График касательной имеет уравнение
y = f(x0) + f'(x0)(x-x0)

Найдём ординату точки пересечения касательной с осью Oy.

y(0)=f(x0)-x0*f'(x0)

По условию длина отрезка касательной между осями координат равна некой константе a.
Т.е., для любого x0

(f(x0)-x0*f'(x0))^2 + x0^2 = a^2

Собственно, Вам нужно решить диф. уравнение

(f(x) - x*f'(x))^2 +x^2 = a^2.

Удачи)