Найти вектор х, если известно, что он ортогонален векторам a=i+j+3k b=2i+3j-k и (x;2i+3j+4k )=51, как это зделать?

правила форума

Пусть х=(x1,x2,x3). По условию: а=(1,1,3), b=(2,3,-1), (x,c)=51, где с=(2,3,4)
(x,c) - это скалярное произведение векторов.
Если векторы ортогональны, то их скалярное произведение равно нулю, т.е. (a,x)=(b,x)=0.

Получаем систему
x1 + x2 + 3 * x3 = 0,
2 * x1 + 3 * x2 - x3 = 0,
2 * x1 + 3 * x2 + 4 * x3 = 51.
Решаем эту систему, находим х1, х2, х3, то есть искомый вектор х.

А то вдруг он не сообразит

Можно и так.
По условию вектор х коллинеарен векторному произведению а и b,
т.е. х=k(a x b ). Число k найти из последнего условия.