Есть же формулы для корней кубического уравнения.
Только корни получаются настолько безобразные, что скорее всего характеристическое уравнение составлено неверно.