Лелик, заключается в том, чтобы привести матрицу к треугольному виду, сначала меняем 2-ю и 3-ю строки местами, затемиз 2-й вычитаем 1-ю, умноженную на 3.и из 3-й вычитам 1-ю. получаем:
1 1 1 |5
0 2 -11|-7
0 -2 1|-3
далее из 3-й вычитаем 1-ю, получаем:
1 1 1 |5
0 2 -11 |-7
0 0 -10 |-10
далее определяем неизвестные и получаем: х1=2, х2=2, х3=1