Что-то у меня изображение не открылось. Попробую по записи условия. Возможно, путь не самый короткий. Что пришло в голову.

Пусть О - центр окружности (легко показать, что он на диагонали АС), с - сторона ромба. Пусть АС пересекает окружность в точках К и Р (точка К ближе к А, а Р - дальше). Обозначим ПОЛОВИНУ острого угла ВАD через а. Поставим себе целью найти какую-либо тригонометрическую функцию угла а (мы найдем синус), тогда проблем уже быть не должно.
Из прямоуг. тр. АВО:
АО=R/sina, c=AB=R*ctga
Через сторону ромба и один из его углов легко выражаются диагонали, а потому
АС=2*c*cosa=2*R*(cosa)^2/sina

Далее,
ОС=АС-АО=R*cos(2a)/sina

Далее, используем теорему: если из точки вне окружности провести к ней две секущие, то произведение длин секущих на их внешнюю часть совпадают. Поэтому

ВС*LC=КС*РС

С учетом того, что KC=OC+R, PC=OC-R, это дает

(3/4)*с*с=(OC)^2-R^2.

Подставляя и деля на R^2, получается уравнение

(3/4)*(ctga)^2=[(cos(2a))^2/(sina)^2] - 1

В уравнении все тригонометрические функции легко выражаются через (sina)^2. Поэтому если сделать замену t=(sina)^2, то относительно t получится квадратное уравнение.