В первой матрице должно быть 6 столбцов, а у вас 4, очевидно есть ошибка при создании или при выводе матрицы а. Проверяем программу, и, действительно, ошибка!(см. выше)

А вот вычислять у меня к сожалению нет времени, проверьте в любом математическом пакете или задайте размер матрицы поменьше и посчитайте на калькуляторе.