Возможно, будет немного проще записать уравнения в полярной ск - тогда сразу можно будет найти углы.