вроде так 5!/3!*(5-3!)*0,4^3*0,6^(5-3)
во второй части будет 0,064*0,36, а в первой не знаю , где с восклицательными знаками