Приводите до конца к ступенчатому виду. Нулевые строки можно вычёркивать. После того,как это сделаете, обнуляйте числа выше главной диагонали тоже. В результате должна получиться некая матрица(не квадратная,столбцов больше,чем строк), которая состоит из единичной и приписанной к ней сбоку некой другой матрицы(в вашем данном случае эта вторая матрица будет иметь только один столбец). Попробуйте расписать потом снова в систему уравнений и выразить все неизвестные через одну (а её саму записать как х=х) - получится собственный вектор. Попробуйте сравнить его с тем столбцом, что стоял справа от единичной матрицы - потом проще будет выписывать решения.