Задание:
при каких m (m принадл. R) СЛУ не имеет решений, имеет одно решение, имеет множество решений?

(m+1)x + (-m кв. + 6m-9)y + (m-2)z =1
(m кв. - 2m-3)x + (m кв. - 6m+9)y + 3z = m-3
(m+1)x + (-m кв. + 6m-9)y + (m+1)z = 1

Пробую преобразовать с помощью алгоритма Гаусса и составить расширенную матрицу (в последней строке получается в итоге 0 0 m+1 0), но не могу понять, что делать дальше... Буду благодарна за помощь!

Сначала можно равносильными преобразованиями свести систему к более простому виду.
Например, так.
Третье уравнение замените разностью первого и третьего уравнения.
Затем второе уравнение замените суммой первого и второго уравнения.

Получите систему
(m+1)*x-(m-3)^2*y=1
(m-2)(m+1)*x=m-2
z=0

Теперь отдельно рассмотрите случаи: m=2, m=-1, m=3.
Затем скопом все остальные m.

Спасибо за ответ! А куда делить "z" из первого и второго уравнения? Или Вы их "вычеркнули", т.к. в третьем получается z=0 ?

Venja, или коллеги, если несложно, объясните, пожалкйста, "чайнику", что дает подстановка. Например, подставляю m=2 во второе и первое уравнение. Во втором - логично - получаю 0=0. В первом 3x-y=1.

При m=-1 получаем y=-1/16

При m=3 соответственно x=1/4

А дальше? Не могу до конца понять взаимосвязи с ответом на вопрос в задании... Плиз, хелп!