Три вектора образуют базис " в Е в степени 3" ( sad.gif - за это одно нужно было бы Вас отослать читать учебник) только в том случае, когда они не лежат в одной плоскости, т.е. их смешанное произведение не равно нулю.
Смешанное произведение трех векторов равно значению определителя, составленного из их координат.
Найдите материал в интернете.