Координаты частицы заданы в виде:
x=10*cos(2*Pi*t)
y=10*sin(2*Pi*t)
z=2*t
Определить форму траектории.

Я понял так, что ответ нужно искать в виде z(x,y), но не могу придумать как связать вместе все три координаты.

установил, что (x^2)+(y^2)=100,
так же x/10=cos(Pi*z), y/10=sin(Pi*z), но не пойму как это можно использовать.

Подскажите как тут поступить.

Вы не выразите z никогда через х и у,потому что при одних и тех же значениях (х,у) будет бесконечно много значений z.