т.е. смешанной производной

Да, т.к. у вас не правильно. Какое выражение и по какой переменной вы дифференцируете?

Вместо х и у для вторых производных подставляйте абсциссу и ординату найденной точки соответственно.

А почему именно минимума?