A/sqrt{A^2+B^2} и B/sqrt{A^2+B^2} - это косинус и синус одного и того же угла, так как сумма их квадратов равна 1. Далее пользуемся формулой косинуса суммы. Для конкретных коэффициентов 2, -5 и -sqrt{29}/2 все написано в предыдущем посте.