функция плотности слева и справа равна нулю, а посередине имеет два значения на двух интервалах: Н на (0;1) и 2Н на (1;2). Почему Вы этого не учли? Надо интеграл от плотности разбить на сумму двух интегралов, с разными значениями плотности на каждом из них. и отсюда найти Н.
М и Д - это мат. ожидание и дисперсия, надо полагать? Найдите их и затем нужную вероятность...