AX = B
X = A^(-1) * B
Осталось найти обратную к А матрицу, а затем умножить ее на матрицу В. Вот и все.