Найти собственные значения и собственные векторы линейноо преобразования, заданного в некотором базисе матрицей:
l 5 0 21 l
l 21 2 16l
l 1 0 1 l
Собственные значения получились 2, -2 и 8. И дальше везде все норм получается с векторами кроме первого (2). Вектор получается [0,0,0]. Точка какая-то. Как это объяснить?

Там получится не [0,0,0], а [0,1,0].

при первом значении получается система
l3Х1 + 21Х3=0
{21Х1 + 16Х3=0
lХ1 - Х3=0
и как это расписать?

и какие у тебя получились другие векторы?

Составляете матрицу системы,которую эквивалентными преобразованиями строк приводите к наиболее простому виду.Она вырожденная,ранга 2,поэтому 1 строчка у вас должна получиться нулевой.Другие две у меня получились
|0 0 1|
|1 0 0|

не могу сообразить как получить Х2=1

решать эту однородную СЛАУ.
пример

Из системы получаем, что Х1 = Х3 = 0.
Х2 можно выбрать любым, например, равным 1.