Можно поподробней как находятся эти самые собственные векторы и собственные числа матрицы. Смотрел пример здесь http://reshebnik.ru/solutions/10/9/, но не понял что такое характеристическое уравнение и как оно составляется. Буду очень очень признателен за любую помощь

Все равно не могу найти собственные числа и векторы.
Матрица:
5 -2 2
0 5 0
0 2 3
Характеристическое уравнение:
(5-лямда)((5-лямда)(3-лямда)) = 0
(5 - лямда)(15 - 3 лямда - 5лямда + лямда^2) = 0
Получается система уравнений:
5 - лямда = 0
-лямда^2 - 8 лямда + 15
Корень первого уравнения 5
Корни второго : - 9.5 и 1.5
Потом ищу собственный вектор матрицы. Подставляю первый лямда в уравнение
(5 - 5) * X1 + (-2) * X2 + 2* X3
0*X1 + (5 - 5) * X2 + 0 * X3
0 * X1 + 2 * X2 + (3 - 5) * X3
начинаю его преобразовывать, чтобы найти корни уравнения, получается:
- 2 * X2 + 2 * X3 = 0
0 = 0
2 * X2 - 2 * X3 = 0
Вот такая билеберда, что это значит, в правильном ли я направлении двигаюсь и где ошибка (IMG:style_emoticons/default/sad.gif) Помогите пожалуйста, с утра бьюсь над ним (IMG:style_emoticons/default/sad.gif)(

А зачем вы дальше раскрываете скобки? Произведение равно нулю, когда хотя бы один из сомножителей равен нулю, т.е.
5-лямда=0 5-лямда=0 3-лямда=0
тогда находим собственные числа. Но они не такие, как вы их нашли.

в какое уравнение вы их подставляете? имеется виду в систему для нахождения собственных векторов?
Записываете матрицу системы
0 -2 2
0 0 0
0 2 -2
она эквивалентна матрице (0 2 -2). Составляем соответствующую ей систему:
0*X1+2 * X2 - 2 * X3 = 0
получаем X2=X3, то есть решение
X1=С1
X2=С2
X3=С2
Составляем ФСР: она имеет два решения
X1 X2 X3
1 0 0
0 1 1
и собственные векторы (1, 0, 0), (0, 1, 1). Аналогично и длясобственного значения 3.