Какое уравнение не решается и как его пытаетесь решить?
оговорился, система уравнений

координаты собственного вектора для лямбда1 (x1,y1,z1) htitybt cbcntvs
-2x1+y1+z1=0
x1-2y1+z1=0
x1+y1-2z1=0
есть конечно решение когда x1=y1=z1=0, но такое же решение будет и для собственного вектора для лямбда2=1 когда решим систему уравнений
x2+y2+z2=0
x2+y2+z2=0
x2+y2+z2=0
возможно базис и преобразования координат надо искать по другому, но в учебниках нашёл только этот способ