Находил как обычно,
( 0 5 0 )
( 0 0 0 ) * X = 0
( 0 2 0 )

5*x2=0
x1*0+x2*0+x3*0=0
2*x2=0

x2=0; x1=c1; x3=c2
X=(c1,0,c2)

Как-то так, про нулевой сначала бред написал) Исправился.

В общем вопрос в силе о втором пункте задания