Дана формула
u=1/(z-x^2-y^2)^1/2
Найти область определения
Я начала так:
z-x^2-y^2>0
z-(x^2+y^2)>0
z>x^2+y^2
А дальше... подскажите, пожалуйста.

Не надо никаких систем. Поройтесь в учебнике и найдите название поверхности x^2+y^2=z и ее внешний вид. Ясно, что эта повехность лежит выше плоскости хОу, а ее сечения плоскостями, параллельными этой плоскости, есть окружности возрастающего радиуса. Легко представляю вид, а название не помню.
Посмотрел - это эллиптический параболоид.