Запишите закон сохранения импульса в этой системе:
m*Vo=m*V+M*U
Шар поднимется на высоту H=U*U/(2*g),пуля - на h=V*V/(2*g).
По идее,этого должно быть достаточно))