ну, тут есть два варианта интерпретации условия. Если разъяснить условие у преподавателя не представляется возможным, можно решить двумя способами:

1. Выбор без возвращения - цифры не могут быть выбраны одинаковы, типа есть 10 карточек, и мы из них вытаскиваем три.
Я именно так поняла условие и решала для него.
n=С(10;3)=120 (нам ведь неважен порядок следования цифр, главное, чтоб их сумма делилась на 5).
Благоприятные m - считайте, их совсем мало.

2. Выбор c возвращением - цифры могут быть выбраны одинаковы, т.е. могут быть выбраны любые три цифры от 0 до 9 с повторами. (возможен вариант 5+5+0, 5+0+0, например). Тогда больше вариантов.

Я склоняюсь больше к первой интерпретации условия..