Ну почему ж Вы такой...
Я же все ясно написал:
" Все векторы, перпендикулярные векторам а и в, параллельны вектору ахв (векторное произведение), а потому с=к(ахв). Осталось найти число к (таких будет 2)."

Этот не вектор с равен (9;-12;7), а ахв=(9;-12;7). А вектор с=к(ахв). Число к как раз и находится из второго условия. Поскольку |a|=5, то 3*|a|=15.
Поэтому

15=|k*(axb)|=|k|*|axb|=|k|*sqrt(9^2+(-12)^2+7^2)=sqrt(274)*|k|
Отсюда
|k|=15/sqrt(274)

Поэтому два значения
k1=15/sqrt(274)
k2=-15/sqrt(274)

Теперь из

с=к(ахв)

находим координаты векторов

с1=к1*(ахв), с2=к2*(ахв).