Так лучше. Интересно, что значит фраза "я знаю формулы комбинаторики", если гадать приходится, какую из них использовать...

Итак, Вы посчитали число способов выбрать подходящую пятёрку пик. Теперь вернёмся к полной колоде. Самую младшую из выбранных пяти пик Вы можете заменить на карту того же номинала другой масти.
1) Будет ли это по-преднему подходящая пятёрка карт?
2) Во сколько раз это увеличит число вариантов?

Потом так же можно поменять следующую по важности из выбранных пик. Потом третью. Четвёртую. Самую старшую.