хорошо! я взял за ось прямую, проходящую через второй шарик, который будет покоиться, когда других 2 шарка m и m0 будут двигаться по окружности, радиус которой будет равен длине стержня. Нашел центр масс. Затем для нахождения угловой скорости применил закон сохранения момента импульса:
m0*V0*L=(m0+m)*sqr(l)*w
вот здесь я немного неуверен - брать в правой части m0+m или все-таки m0+2m?