У вас ошибка в вычислении у меня получилось M(x)=3.9592, M(x^2)=16.6057 (если все числа вы правильно нашли ) попробуйте пересчитать
В математике и статистике сре́днее арифмети́ческое (или просто среднее) набора чисел — это сумма всех чисел в этом наборе делённая на их количество.(думаю в вашем условии это имеется ввиду).