Характеристическое уравнение - это уравнение det(A-kI)=0
т.е. из матрицы A вычитается единичная матрица I, умноженная на k, т.е.
k 0 0... 0
0 k 0... 0
....
0 0 0... k

от полученной матрицы находится определитель и приравнивается к 0