1) Уравнение каждой стороны треугольника имеет вид y=kx+b, [c,d] э х.
Подставить это выражение для у в z и найти наиб. и наим. значение полученной функции ОДНОГО переменного на отрезке [c,d].

2) Уравнение эллипса лучше записать в параметрическом виде:
x=a*cost, y=b*sint, [0,2pi] э t.
Подставить и находить макс. и мин. по t на указанном отрезке.

P.S. Критические точки в самом начале решения нужно выбирать только принадлежащие указанной области.