Ну долго объяснять подробно. Описан процесс во многих учебниках. Почитайте.
Кратко.
Пусть данные векторы: а,в,с.
Строим векторы ортогонального базиса : А.В.С.

Вектор А просто берем равным а.
Вектор В ищем в виде В=в+(альфа)*А.
Число альфа ищем из условия, что В должно быть перпенд А.
Вектор С ищем в виде С=с+(альфа)*А+(ветта)*В,
а альфа и ветта ищутся из условия ортогональности С и А, С и В.
Во многих учебниках есть уже выведенные из вышесказанного конкретные формулы.