1)

5 0 0
0 -1 -1
0 -1 -1

преобразовав получаем сист.уравнений:
5х1=0
-х2-х3=0

сл-но
х1=0
если взять х3=1
тогда х2=-1

2) 0 0 0
0 -4 -1
0 -1 -4
сист.уравнений
-4х2-х3=0
-х2-4х3=0

х2=0
х3=0
х1 произвольное значение х1=1

3)3 0 0
0 -1 -1
0 -1 -1
сист.уравнений
3х1=0
-х2-х3=0

х1=0
при х3=1
х2=-1

вот так у меня сейчас получилось