Найти производящую функцию числа частиц в n-м поколении, если производящая функция потомков одной частицы равна: 1-p(1-z)^a, 0<p,a<1

Как производящая функция числа частиц во втором поколении выражается через п.ф. первого поколения?

Ну хотя бы так, хотя вообще в задании для n-ого поколения, а не для второго

Вы поняли мой вопрос?
Выше был задан вопрос к Вам: знаете ли Вы, каким образом выражается производящая функция числа частиц во втором поколении через производящую функцию числа частиц в первом поколении? Можно воспринимать этот вопрос как предложение к Вам открыть книжку или лекции и прочесть там это основное утверждение про ветвящиеся процессы. Ничего кроме этого факта в Вашей задаче знать не требуется.

Полезность итераций производящих функций в теории ветвящихся процессов во многом определяется тем, что если Z(0) = 1, то F(n + 1, s)= F (n, f(s))= · · · =fn+1(s).
Это тот самый факт, о котором вы говорили?

Ну, если Вы знаете, кто такое F(n,s) в этой формуле, то о ней.