правила форума

cos (phi) = (a,b )/(|a|*|b|)
Здесь (a,b ) - скалярное прозведение векторов,
|a|, |b| - длины векторов,
phi - угол между векторами a и b.
Может проще будет через координаты: если a = i и b=-2j+k, то а=(1;0;0), b=(0;-2;1)