Стандартные задачи. Ищем производную.Затем экстремумы.Определяем их тип и т.д.Алгоритм и теорию можно найти здесь в моей статье Производные...