Проверьте, пожалуйста, мое решение:
1) найти все частные производные второго порядка z = sin^2 (ax + by)
dz/dx = (sin^2 (ax + by))'_x = 2 * sin (ax + by) * (sin (ax + by))'_x =
= 2 * sin (ax + by) * cos (ax + by) * (ax + by)'_x = a * sin (2ax + 2by)
dz/dy = (sin^2 (ax + by))'_y = 2 * sin (ax + by) * (sin (ax + by))'_y =
= 2 * sin (ax + by) * cos (ax + by) * (ax + by)'_y = b * sin (2ax + 2by)
d^2z/dx^2 = (a * sin (2ax + 2by))'_x = 2 * a^2 * cos (2ax + 2by)
d^2z/dxdy = d^2/dydx = (a * sin (2ax + 2by))'_y = 2 * a * b * cos (2ax + 2by)
d^2z/dy^2 = (b * sin (2ax + 2by))'_y = 2 * b^2 * cos (2ax + 2by)

2) найти наибольшую скорость возрастания функции z = 2x^2 + 3xy в точке А(-1,2).
Наибольшая скорость возрастания будет в сторону градиента.
dz/dx = (2x^2 + 3xy)'_x = 4x + 3y
dz/dy = (2x^2 + 3xy)'_y = 3x
dz/dx(A) = 4 * (-1) + 3 * 2 = 2
dz/dy(A) = 3 * (-1) = -3
Получаем, что наибольшей скоростью возрастания функции будет grad z(A) = {2;-3}

3) найти экстремум функции z = x^2+y^2. Найти наибольшее и наименьшее значение этой функции в замкнутой области D:(x+y<=1; x>=0; y>=0).
dz/dx = (x^2 + y^2)'_x = 2x
dz/dy = (x^2 + y^2)'_y = 2y
Находим экстремум: dz/dx = 0, dz/dy = 0 => x = 0, y = 0
Точка A (0;0) - возможная точка экстремума.
d^2z/dx^2 = 2, d^2z/dxdy = 0, d^2z/dy^2 = 2
A = d^2z/dx^2 (A) = 2, B = d^2z/dxdy (A) = 0, C = d^2z/dy^2 (A) = 2
D = A * C - B^2 = 4 - 0^2 = 4
D > 0, A > 0 => (0;0) - точка минимума
Теперь найдем наиб. и наим. значения z в замкнутой области.
Максимум и минимум достигаются либо в точке экстремума либо на границе области.
Область представляет собой внутренность треугольника.
z(0;0) = 0.
На первой границе: x = 0, 0 <= y <= 1 => z = y^2
Тогда max z = z(0;1) = 1, min z = z(0;0) = 0.
На второй границе: y = 0, 0 <= x <= 1 => z = x^2
Тогда max z = z(1;0) = 1, min z = z(0;0) = 0.
На третьей границе: y = 1 - x, 0 <= x <= 1 => z = x^2 + (1 - x)^2
z = 2 * x^2 - 2 * x + 1
x_вершина = 1/2 =>
z(0;1) = 0, z(1;0) = 1, z(1/2;1/2) = 1/4
Ответ: min z = z(0;0) = 0, max z = z(0;1) = 1.