Ну я помню, что мы подставляли один из корней системы (x1 к примеру).. ну т.е. брали его равным 1, и находили два остальных O_o. Я еще повожусь с матрицей, предоставлю результаты.