Цитата(tig81 @ 18.12.2007, 15:26) 
Наверное надо предполагать, что изначально все задано в каноническом базисе е1=(1,0,0), е2=(0,1,0), е3=(0,0,1). Тогда e1`=(-3,1,0) - это координаты нового базиса в старом.
по-моему проблема, что не получается диагональный вид состоит в том, что неправильно записана формула,связывающая матрицы оператора в разных базисах. Она, вроде как, вместо A`=UT*A*U имеет вид:
A`=U^(-1)*A*U.
то есть, если базис состоит из собственных векторов, то матрица приводится к диагональному виду
k1 0 0
0 k2 0
0 0 k3
Попробуйте воспользоваться данной ф-лой.
на счет формулы, взял я ее из лекции и она действительно верна для ортонормированных векторов.
Уравнение можно записать так:
XT*A*X+B*X+c=0
затем
XT*U*UT*A*U*UT*X+B*U*UT*X+c=0
X`=UT*X
A`=UT*A*U=
k1 0
0 k2
B`=B*U
где U*UT=E для ортонормированых векторов
сомнния возникают на счет e`1=(3,1,0) и e`2=(-1,0,1)
они должны быть получены из разных собственных значений, тогда они будут ортогональны, а в данном случае они из одного значени получены
может в этом причина, брать за базовый вектор e'3 ортогонализировать ..?
