Всё верно - число np равно 240, именно столько успехов следует ожидать в 300 испытаниях. Мы хотим найти вероятность 100 успехов - это безумно маловероятное событие. При p=0,8 ответ Pn(k)=0 (приблизительно, но с очень высокой степенью точности).

Либо именно такой ответ и подразумевался, либо вероятности действительно должны быть иными.