Задача:
Найти расстояние между прямыми (каждая задана в виде системы):
1:
{x + y + z - 1 = 0
{2x + 3y + 6z - 6 = 0
2:
{y + 4z = 0
{3x + 4y + 7z = 0

Подскажите, если не решение, то хотя бы алгоритм решения. Буду благодарен.

Можно найти направляющие векторы ( a и c ) каждой прямой и некоторые точки,лежащие на них,пусть вектор,началом и концом к-го они являются,будет r.Тогда по известной формуле
h=abs((r,a,c)/[a,c])
(r,a,c) - смешанное произведение
[a,c] - векторное произведение