Дискретная случайная величина принимает 4 значения, причем

P(X=1)=P(X=2)=P(X=4)=1/4

Найти минимальное значение ее дисперсии.

Взяв неизвестное значение X за b,
получил M(X)=(1+2+b+4)/4=(b+7)/4
M(X^2)=(1+4+b^2+16)/4

D(X)=(21+b^2)/4-((b+7)/4)^2=(3b^2-14b-14)/16

Найдем критические точки
D'(X)=6b/16-14/16


6b-14=0; b=7/3;

D(7/3)=-91/48

Во-первых D должно быть >0
Во-вторых,как мне найти значения функции на концах отрезка,если отрезок не задан?

Вы высшую математику изучали? Не знаете, как определить экстремум функции, какая точка максимума, какая - минимума? Определите знак второй производной!