у меня была несколько другая теория, где последовательно ставят на окружность 2 точки наугад, а чтобы треугольник был остроугольным необходимо чтобы последняя точка лежала в другой полуплоскости т е вероятность составит 1/2

Повернем окружность так (на сколько-то градусов), чтобы одна точка составляла 0 градусов с осью Ох, а вторая точка лежала бы в верхней полуплоскости.