Хитрая система на нестандартные методы. Работа с первым уравнением. Правая и левая части оцениваются с помощью неравенства между средним арифметических трех чисел и их средним геометрическим. Пока писать решение некогда. Если подсказка не поможет - позже напишу подробнее. Но постарайтесь сами дойти.