Помогите, пож-та, найти собственные числа и собственные вектора матрицы:
2 -1 0
-1 2 0
1 -1 1

Характерестическое уравнение имеет корни: L1=3 (для него я нашла вектор: (1,-1,1)t )
и L2,3=1.
Вот для этого корня L2=1 и возникли проблемы. Я получила систему:
1 -1 0
-1 1 0
1 -1 0

Получаем, что х1=х2 и не зависит от х3. Какой в данном случае взять собственный вектор? (IMG:style_emoticons/default/huh.gif)
(1,1,10)?? Что-то в этом роде?

Или может надо в этом случае как-то по-другому решать?

У вас 3 собственных значения, значит должно быть 3 собственных вектора.
Образец решения подобных задач: http://reshebnik.ru/solutions/10/9/