Цитата(Яна Романова @ 30.5.2012, 13:39) 
Первая - матрица икс. Вторая - матрица икс в квадрате. Если приравнять коэффициенты, то получится
x11=x11*x11+x12*x21
x12=x11*x12+x12*x22
x21=x11*x21+x21*x22
x22=x12*x21+x22*x22
А дальше не знаю, что делать.
Чтобы меньше индексов:
a b
X=c d
a^2+bc = a
ab+bc=b
ac+cd=c
bc+d^2=d
от первого отнимаем четвертое равенство, получаем: a^2-d^2=a-d
и вытаскиваем, все что можно