Вообщем как всегда было лень полистать справочник,
уравнение полученное в результате вычислений, называется эллиптический параболоид. (IMG:style_emoticons/default/blush.gif)

задана квадратичная матрица A:
2 3 1
3 10 3
1 3 2

ее собственные значения: k1=1, k2=12, k3=1

k=k1 тогда A-k1E=

1 3 1
3 9 3
1 3 1

r(A-k1E)=1

x1=-3*X2-X3

получаем
x1=-3, x2=1, x3=0
x1=-1, x2=0, x3=1


как из них получить собственный вектор для k1?

Приведенные хi и есть собственными векторами, то есть а1=(-3, 1, 0), аналогично а2=... собственное значение к1 имеет два собственных вектора! (IMG:style_emoticons/default/yes.gif)

хм, если сотавить матрицу перехода U:

-3 -1 1
1 0 3
0 1 1

и выполнить преобразование
A`=UT*A*U получится

10 3 0
3 2 0
0 0 132

а должна быть диагональной...


общая задача состоит в приведении к каноническому виду уравнения

2X1^2+10X2^2+2X3^2+6X1*X2+2X1*X3+6X2*X3=0