ясно, спасибо. Т.е. приведение определителя к верхне- или нижнетреугольному виду. Тогда определитель равен произведению элементов главной диагонали.
Чтобы, например, сделать нули в первом столбце (кроме элемента а11) поступаем следующим образом:
a[i,j]-a[i,j]/a[1,1], где a[i,j] - элемент в первом столбце.
Т.е. от второй строки отнимаем первую, умноженную на a[2,1]/a[1,1]