Задание:
при каких m (m принадл. R) СЛУ не имеет решений, имеет одно решение, имеет множество решений?

(m+1)x + (-m кв. + 6m-9)y + (m-2)z =1
(m кв. - 2m-3)x + (m кв. - 6m+9)y + 3z = m-3
(m+1)x + (-m кв. + 6m-9)y + (m+1)z = 1

Пробую преобразовать с помощью алгоритма Гаусса и составить расширенную матрицу (в последней строке получается в итоге 0 0 m+1 0), но не могу понять, что делать дальше... Буду благодарна за помощь!

Сначала можно равносильными преобразованиями свести систему к более простому виду.
Например, так.
Третье уравнение замените разностью первого и третьего уравнения.
Затем второе уравнение замените суммой первого и второго уравнения.

Получите систему
(m+1)*x-(m-3)^2*y=1
(m-2)(m+1)*x=m-2
z=0

Теперь отдельно рассмотрите случаи: m=2, m=-1, m=3.
Затем скопом все остальные m.

Спасибо за ответ! А куда делить "z" из первого и второго уравнения? Или Вы их "вычеркнули", т.к. в третьем получается z=0 ?

Venja, или коллеги, если несложно, объясните, пожалкйста, "чайнику", что дает подстановка. Например, подставляю m=2 во второе и первое уравнение. Во втором - логично - получаю 0=0. В первом 3x-y=1.

При m=-1 получаем y=-1/16

При m=3 соответственно x=1/4

А дальше? Не могу до конца понять взаимосвязи с ответом на вопрос в задании... Плиз, хелп!

(m+1)*x-(m-3)^2*y=1
(m-2)(m+1)*x=m-2
z=0

При m=2 получим систему
3x-y=1
0*x=0
z=0

Такая система имеет бескон. множество решений вида (х,3х-1,0) при любом числе х.

При m=-1 получим систему
-16у=1
0*x=-3
z=0

Такая система не имеет решений, так как второе уравнение не удовлетворить никакими числами.

При m=3 получим систему
4x=1
4x=1
z=0

Такая система имеет бескон. множество решений вида (1/4,у,0) при любом числе у.

При всех других значениях m система имеет единственное решение, так как основной определитель системы (найдите выражение для него!):
(m+1)*x-(m-3)^2*y=1
(m-2)(m+1)*x=m-2
z=0

не равен 0.

Venja, спасибо Вам огромное, Вы гений! :-) Без Вас точно бы еще ночь просидела. Учусь сейчас на математике на иностранном языке, а школьная уже так давно была... Никак не получалось до конца разобраться, а теперь поняла! Спасибо Вам еще раз огромное! Успехов Вам!

Iskra, Вениамин Вам помог потому, что у Вас было желание разобраться с заданием и его решением. А таким студентам здесь всегда рады помочь.

Спасибо, желание, правда, было, и усилия;-)