При чем здесь вероятность? Вас же спрашивают "Сколько различных сигналов можно передать..." .
Сигналов из всех трех флагов будет 3!=6
Сигналов из двух флагов будет число размещений их 3 по 2 =6
Сигналов из одного флага, очевидно, 3.
Итого?
Это если я правильно понял задачу.