1. Нельзя говорить «проходили квадратные матрицы и их решение». Матрицы не решают! Над матрицами можно производить действия. А решают системы линейных уравнений.
2. На первый взгяд вы все делаете верно. Главная диагональ вашей матрицы:
2 3 0 3 | 10
1 3 1 2 | 9
2 1 3 0 | 11