Не могу понять как его решать. Интегрирую как правильную дробно-рациональную функцию, но система не имеет решения. Что я делаю не так?

Не надо разбивать (х-1)^2 на (х-1)*(х-1).
Теория говорит, что в этом случае надо дробь представлять в виде:

A/(x-1)+ B/((x-1)^2) + C/(x+4)