Нашел координаты маленького круга.
x0=-r; y0=sqrt(r*r-R*R-2*R*x0-x0*x0);
формулу y0 можно еще упростить подставив место x0 "-r"
тогда получиться y0=sqrt(2*R*r-R*R)
решал с помощью системы уравнений окружности.

R, r , x0=-r известны
x,y, y0 не известны.
я взял случай в котором маленький круг, будет максимальной вылечены.
вот как тут. (Рисунок первый)

и взял их точки касания x=-R,y=0 и подставил.
Теперь x,y; типа известны. Вывел формулу и она рабочая. Нашел y0;
теперь мне нужна формула вычисляющая x,y;
так как радиусы произвольные. Значит нет у меня координатов точки касания.
Теоретически можно таким же образом найти x,y. Только тут две не известные координаты и все гораздо сложней. Теперь y0,x0,r,R известны; x,y не известны. 20 раз выводил формулу с нуля. И нет не работает