странно...
ну я дальше написал решение этой матрицы из того калькулятора
вот еще раз оно
Допишем к исходной матрице единичную матрицу справа
1 1 -1 1 0 0
8 3 -6 0 1 0
4 1 -3 0 0 1

Начнем приведение левой квадратной матрицы к единичному виду.
При помощи элементарных преобразований уберем все коэффициенты ниже главной диагонали.

Вычтем 1ю строку из всех строк, которые находятся ниже нее.

1 1 -1 1 0 0
0 -5 2 -8 1 0
0 -3 1 -4 0 1

Вычтем 2ю строку из всех строк, которые находятся ниже нее.

1 1 -1 1 0 0
0 -5 2 -8 1 0
0 0 -0,2 0,8 -0,6 1

Приведем все коэффициенты на главной диагонали матрицы к 1. Поделим каждую строку матрицы на коэффициент этой строки находящийся на главной диагонали, если он не равен 1.

1 1 -1 1 0 0
0 1 -0,4 1,6 -0,2 0
0 0 1 -4 3 -5

Приведем все коэффициенты выше главной диагонали к 0, при помощи элементарных преобразований.

Вычтем 3ю строку из всех строк, которые находятся выше нее.

1 1 0 -3 3 -5
0 1 0 0 1 -2
0 0 1 -4 3 -5

Вычтем 2ю строку из всех строк, которые находятся выше нее.

1 0 0 -3 2 -3
0 1 0 0 1 -2
0 0 1 -4 3 -5

обратная матрица будет
|-3 2 -3|
| 0 1 -2|
|-4 3 -5|

мой вариант дальнейшего решения перемножить обратную матрицу и ответ из данного примера, т.е.
(-3 2 -3) (1)
( 0 1 -2)*(2)
(-4 3 -5) (3)

получается
(-3 2 -3)
(0 2 -4)
(-12 9 -15)

что то не то