(IMG:http://s61.radikal.ru/i174/1009/20/fab8a163a5fe.jpg)
Ранги я нашел:
r(A)=2 r(A| B )=2

А что писать в общем решение системы я незнаю.

Есть предположение что вот так пишется, но правильно или нет я неуверен:

-21x2+27x3=31 x3 заменяем на А
-21x2=31-27x3

получаем:

-21x2= 31-27A



x2= 31 - 27A / -21



x2= (4 / -21)*A

Если правильно, то подтвердите если нет, то поправте буду очень блогодарен.

1 4 -4 | -5
5 -1 7 | 6 ~
11 2 10 | 7


1 4 -4 | -5
0 -21 27 | 31
0 0 0 | 0

отсюда следует что ранг равен 2

x1 + 4x2- 4x3 = -5
-21x2+ 27x3= 31

Так ? (IMG:style_emoticons/default/rolleyes.gif)

Похоже на правду

Т.к. количество переменных равно 3, а ранг равен 2, то две зависимые переменный, одна - базисная. Например, х3 - базисная, выражайте через нее х1 и х2, начиная с последнего уравнения и двигаясь вверх.