Можно и так.
По условию вектор х коллинеарен векторному произведению а и b,
т.е. х=k(a x b ). Число k найти из последнего условия.