Цитата(Drampir @ 26.12.2007, 14:40) *

Характеристическое уравнение:
(5-лямда)((5-лямда)(3-лямда)) = 0
(5 - лямда)(15 - 3 лямда - 5лямда + лямда^2) = 0

А зачем вы дальше раскрываете скобки? Произведение равно нулю, когда хотя бы один из сомножителей равен нулю, т.е.
5-лямда=0 5-лямда=0 3-лямда=0
тогда находим собственные числа. Но они не такие, как вы их нашли.
Цитата
Потом ищу собственный вектор матрицы. Подставляю первый лямда в уравнение
(5 - 5) * X1 + (-2) * X2 + 2* X3
0*X1 + (5 - 5) * X2 + 0 * X3
0 * X1 + 2 * X2 + (3 - 5) * X3
начинаю его преобразовывать, чтобы найти корни уравнения, получается:
- 2 * X2 + 2 * X3 = 0
0 = 0
2 * X2 - 2 * X3 = 0

в какое уравнение вы их подставляете? имеется виду в систему для нахождения собственных векторов?
Записываете матрицу системы
0 -2 2
0 0 0
0 2 -2
она эквивалентна матрице (0 2 -2). Составляем соответствующую ей систему:
0*X1+2 * X2 - 2 * X3 = 0
получаем X2=X3, то есть решение
X1=С1
X2=С2
X3=С2
Составляем ФСР: она имеет два решения
X1 X2 X3
1 0 0
0 1 1
и собственные векторы (1, 0, 0), (0, 1, 1). Аналогично и длясобственного значения 3.