применяя метод исключения неизвестных решить систему линейных уравнений
2X1+3X2-X3+9X4=-7
3X1+5X2+2X3+12X4=-1
-X1 +3X3-X4=8
3X1+6X2+X3+17X4=-6.
решение
1.составим расширенную матрицу

2 3 -1 9 -7
3 5 2 12 -1 ~
-1 0 3 -1 8
3 6 1 17 -6
поменяем местами первую строку с третьей
-1 0 3 -1 8
3 5 2 12 -1 ~
2 3 -1 9 -7
3 6 1 17 -6
домножим первую строку на 3 и прибавим ко второй и к четвертой, домножим на 2 и прибавим к третьей
-1 0 3 -1 8
0 5 11 9 23 ~
0 3 5 7 9
0 6 10 14 18
разделим последнюю на -2 и сложим с третьей
-1 0 3 -1 8
0 5 11 9 23 ~
0 3 5 7 9
0 0 0 0 0
ранг расширенной матрицы r=2. r<n- система неопределенная
(IMG:style_emoticons/default/smile.gif)
и что мне делать дальше если это правильное решение?

Вроде все верно. Только вы к ступенчатому виду так и не привели.
Такое понятие, как обратный ход метода Гаусса вам известно?

пока не известно, подскажите пожалуйста ссылочку как решать дальше эту систему. (IMG:style_emoticons/default/smile.gif)

пока доприводите матрицу к ступенчатому виду. Для этого элемент a32 надо обнулить.

Ищем здесь

-X1 +3X3-X4=8
5X2+11X3+9X4=23
3X2+5X3+7X4=9

X1=3X3-X4-8
X4=3X3-X4-8
X3=X1/3+X4/3=8

3X2+5X3+7(3X3-X4-8)=9
X2=-26X3/3-7X4/3+65/3 (IMG:style_emoticons/default/smile.gif)