Посмотрите задачу.
1 Векторы а, b, c попарно образуют друг с другом одинаковые углы, равные п/3. Зная что |a|=1, |b|=2, |с|=3 , определить модуль вектора p=a+b-c

Так может быть?
|p| = √(p,p) = √ (a + b – c, a + b – c) = √ a² + b² – c² + 2(ab) +2(ac) +2(bc) = √ 1² +2² – 3² + 2(1*2) +2(1*3) +2(2*3) = √14 +2 ( 1+3+2) = √14+12 = √26
|p| = примерно 5