Большое спасибо за решение, было интересно докопаться до истины.

При этом, это задание с гос. экаменов, где было еще 4 задания:
система из трех ДУ,
дополнить два вектора пр-ва R5 до ортогон. базиса (Гаусс...),
задача по теории вероятности,
и по программированию, написать программку на С++(без компьютера...)

и все это на три часа!!!