К сожалению, не до конца понял тему, просьба помочь разобраться.
Нужно:
1) найти собственные значения линейного оператора
2) определить, является ли оператор оператором простой структуры
3) найти собственные векторы
4) записать клеточно-диагональный вид матрицы оператора
Как пример возьмём первый оператор, матрица которого:
-3 5 0
0 -3 0
0 2 -3

С первым пунктом всё ясно, собственные значения - -3, -3 и -3.
Чтобы выполнить второй пункт, нужно найти собственные векторы, с чем появилась некоторая заминка
Также просьба разъяснить что требуется сделать в 4-м пункте (IMG:style_emoticons/default/smile.gif)

Какая именно?
Мелькнуло что-то, что они нулевые получаются, но видно вы уже отредактировали сообщение. Собственный вектор не может быть по определению улевым. Показывайте, как находили

В 4 судя по всему, идет о Жордановой форме матрицы

Находил как обычно,
( 0 5 0 )
( 0 0 0 ) * X = 0
( 0 2 0 )

5*x2=0
x1*0+x2*0+x3*0=0
2*x2=0

x2=0; x1=c1; x3=c2
X=(c1,0,c2)

Как-то так, про нулевой сначала бред написал) Исправился.

В общем вопрос в силе о втором пункте задания

Теперь придавая с1, с2 значения, например
1) с1=0, с2=1: х1=(0, 0, 1)
2) с1=1, с2=0: х1=(1, 0, 0),
получаем два собственных вектора.

А вопрос в чем?
А что подразумевается под оператором простой структуры?

Если бы я хорошо это понимал, то скорее всего вопроса бы не возникло (IMG:style_emoticons/default/smile.gif)
Вообще говоря, понятие ОПС достаточно распространено.. По определению:
Линейный оператор называется оператором простой структуры, если существует базис, состоящий из собственных векторов этого оператора.
Существует критерий, связанный с кратностью собственных значений, но сколько уже искал его описание, ничего более-менее понятного не нашёл

Ну два полученных вектора не оставляют базис в трехмерном пространстве.