Вы знаете про смешанное произведение векторов?