Сначала ищется именно УРАВНЕНИЕ ПЛОСКОСТИ, проходящей через М и перпендикулярной прямой m. Ее нормальный вектор есть, очевидно, направляющий вектор прямой m. Затем ищется точка пересечения О полученной плоскости с прямой m. Далее, точка М' ищется из условия, что точка О есть середина отрезка М'М.

Есть и другие способы.