задана квадратичная матрица A:
2 3 1
3 10 3
1 3 2

ее собственные значения: k1=1, k2=12, k3=1

k=k1 тогда A-k1E=

1 3 1
3 9 3
1 3 1

r(A-k1E)=1

x1=-3*X2-X3

получаем
x1=-3, x2=1, x3=0
x1=-1, x2=0, x3=1


как из них получить собственный вектор для k1?

А векторы ведь должны быть ортогональными, вы правы.
Ну и по ф-ле А'=U^(-1)AU, если векторы не ортоганализировать, тоже получается матрица
1 0 0
0 1 0
0 0 12. Проверено.



поверхность x^2/a^2+y^2/b^2+z^2/c^2=0 - мнимый конус второго порядка с действительной вершиной (0, 0, 0)

Благодарю за оказанную поддержку и помощь (IMG:style_emoticons/default/yes.gif)