нашел вот это http://www.prepody.ru/ipb.html?act=Attach&...post&id=749
получается, что С=1 и в результате
cos=(С1*С2)/(корень(C1^2)*корень(A2^2+B2^2+C2^2))