И? Замечательно, расширенная матрица системы записана. Теперь приводите ее к ступенчатому виду. Для этого сначала делайте нули в первом столбце под главной диагональю, используя элементарные действия над строками матрицы. Что это за преобразования знаете? Нет? Тогда конспекты, учебники, гугл. Советую сделать так, чтобы элемент а[11] равнялся 1. Что для этого можно сделать. И один нулевой элемент у вас в первом столбце уже есть.