1-я строка: почему второе слагаемое -6?
2. Глядя на систему, понимаю, что в первой строке опечатка.
последняя строка: почему смешанная производная =0: f''xy?
да ,в первой строке опечатка вышла.
что касается смешанного произведения ,то я не уверен в правильности данного решения и затрудняюсь решение довести до конца,а именно :
-значения вторых производных в критической точке
-точку минимума функции