Что это за матрица?
Если я правильно поняла задачу, то нормальный ектор искомой плоскости равен векторному произведению векторов заданных плоскостей