1 способ
прбовал по формуле: сочетаний(без повторений):36!/((36-5)!*5!)
2 способ
просто вычитал каждую взятую карту 9*8*7*6 (начал с 9 так как 9 карт одной масти)

Я не знаю правильно ли вообще я начал решать и какой из способов подходит?