Цитата(korsar-pirat @ 9.5.2011, 12:10) *

tig81, да скорей всего...

Даже можно сказать 99,9%
Цитата
В варианте Тролль нормальные корни получаются: все три равны 6.

Да, т.к. характеристический многочлен "правильный"
Цитата
На паре как-то делали такой случай, но тут проблема:
Не могу составить вектор u для нахождения u0.

Что за вектор u, u0?
Их полученного уравнения выражайте одну переменную через две другие. Можно уравнение предварительно поделить на 3. Вам нужно найти ФСР однородной СЛАУ.