Ну во первых надо было найти совместна ли эта матрица с расширенной, ну да неважно...

Поменйте местами 2 и 3 строку, затем из 2ой вычтите первую умноженню на 3, а потом вычтите из 3ий первую.

Если вы дальше решить не сможете, то вам в 6ой класс пора