1. Найдите критические точки функции, т.е. точки, в которых производная =0.
2. Расмотрите первое уравнение системы, введите замену log[2]x=t и решите полученное квадратное.