видимо речь идет про модуль диагонали!

7=|a+b|=sqrt((a+b,a+b ))=sqrt((a+b )^2).
Далее расписываем скалярный квадрат, стоящий под корнем, подставляем, все что нам задано, и получаем уравнение относительно cos угла между заданными векторами.