Если правильно понял, то получается:
P(A) - только 3 карты одной масти
P(B ) - только 4 карты одной масти
P(С ) - только 5 карты одной масти
P(D) - не менее 3 карт
P(D)=P(A)+P(B )+P(С )

4*(С[13, 3]*С[39, 2]+С[13, 4]*С[39, 1]+С[13, 5])/ С[52, 5]