Определитель можно было и не считать.
Нужно с помощью линейных операция над строками привести матрицу к верхнетреугольному виду.