помогите плиз решить
|3a + 2b|, если |a|=корень из 2
|b| = 3
угол между векторами а и б = 135

|3a + 2b|^2=(3a + 2b, 3a + 2b)
Дальше по свойствам и определению скалярного произведения.

а запятая это умножить? или как? или будет 9а^2 + 18ab - 4b^2?

будет -18?

Модуль обозначает длину векора. Модуль "в квадрате" - это есть скалярное произведение вектора на себя. (a,b ) - это обозначение скалярного произведения.
По свойствам скалярного произведения получаем:
(3a + 2b, 3a + 2b)=(3a,3a)+(3a,2b)+(2b,3a)+(2b,2b)=9( a,a )+6( a,b )+6(b,a)+4( b,a )=9|a|^2+12( a,b )+4|b|^2
Скалярное произведение ( a,b ) найдете по определению.