Спасибо! Я решила так, как Вы сказали, получила матрицу Т.
Теперь такой вопрос: как проверить правильность решения?
Перемножить матрицу Т и матрицу А? Должна получиться матрица B?

да перемножить, но только матрица А справа.
Можно в качестве проверки поступить следующим образом:
решить первую систему относительно х1, х2, х3, т.е. выразить их через x1', x2', x3'. Полученные выражения подставить во вторую систему.