Мне кажется здесь нужно превести подкоренную запись к форме для применения разности квадратов только не знаю как. Поэтому я просто упростил вырожения до вида второго прикрепленного файла а дальше не знаю как упростить для решения