Запишите операторную систему, которая у Вас получилась
(1) (p^2)*X(p) + p - 1 - p*Y(p) + 1 = 0
(2) X(p) - (p^2)*Y(p) + p + 1 = 2/((p^2)+1)
далее из (1) выражаю Y(p)
-p*Y(p) = - (p^2)*X(p) - p + 1 - 1
p*Y(p) = (p^2)*X(p) + p | /p
Y(p) = p*X(p) + 1
подставляю в (2)
X(p) - (p^2)*[p*X(p) + 1] + p + 1 = 2/((p^2)+1)
X(p) - (p^3)*X(p) - (p^2) + p + 1= 2/((p^2)+1)
выносим X(p) за скобки, при этом все члены не содержащие Х(р) переносим в правую часть
X(p)[1 - (p^3)] = 2/((p^2)+1) + (p^2) - p - 1
делим это на [1 - (p^3)]
и в итоге всех упрощений получаем
X(p) = - (p - 1) / ((p^2) + 1)