Цитата(mery @ 3.2.2010, 1:51) 
Вот такой вопрос, почему и не знаю ,как решать (а,р)- это произведение или что-то другое, я что-то понять не могу?
Да, это скалярное произведение вектора р на вектор а.
Цитата(mery @ 3.2.2010, 2:10)
Если так, то можно составить систему
2х-3у+5z=12
-х+у-3z=-6
3х+7у+z=0
Решаю, получается у=-1, х=2, z=1. Как-то так
Проверку делали?