Честно говоря, я сам затрудняюсь ответить... Преподаватель рассылал задания по E-mail, и оно выглядит именно так. На мой вопрос он махнул рукой и сказал, что всё должно быть правильно.

К треугольному виду приводить пробовал.

Старался вычислить методом Гаусса.