Сделайте рисунок. Чтобы наши рисунки совпадали, сделайте (как у меня) BC>AC. D - середина AB - центр описанной. Пусть О - центр второй окржности, а F и G - точки ее касания с катетами AC и BC.
Ясно, что OF перпендикулярна AC, OG перпендикулярна BC. Из точки D опустим перпендикуляр DK на OG. Обозначим длины катетов AC=x, BC=y. Рассмотрим прямоугольный треугольник ODK. Известно, что расстояние между центрами окружностей, касающихся внутренним образом, равно разности их радиусов. Поэтому гипотенуза OD=R-r=7-4=3. Сообразите (это не сложно), что
OK=OG - KG=r - (x/2)=4 - (x/2)
DK=(y/2)-r= (y/2) - 4.
Применяя теорему Пифагора к треугольникам ABC и ODK, получаем систему для определения х и у:
x^2+y^2=14^2
(4 - (x/2))^2+((y/2) - 4)^2=3^2.
Система легко решается.