Дана система. Не получается найти корни уравнения. Помогите, пожалуйста.
x'=3x+12y-4z,
y'=-x-3y+z,
z'=-x-12y+6z.
3 12 -4
-1 -3 1 =A - Матрица системы уравнений
-1- 12 6
Характеристическое уравнение матрицы А
det(A-\lambda E)=0
|3-λ 12 -4 |
|-1 -3-λ 1 | =
|-1 -12 6-λ|
(3-λ)(-3-λ)(6-λ)-12-48-4(-3-λ)+12(6-λ)+12(3-λ)=-λ^3+6λ^2-29λ+114=0

Да, так верно.

И как найти λ?

Один корень λ1 угадать/подобрать (если многочлен имеет корни, то они являются делителем свободного коэффициента), а затем полученный характеристический многочлен поделить на λ-λ1. В результате получите квадратное уравнение для нахождения двух оставшихся корней. Методы решения такого уравнения хорошо известны.