Получается, я не учла, что площадь будет ограничена не одной, а двумя линиями: y=0 и y=x^2-4x-5. И уравнение y=0 нужно не только, чтобы определить нижнюю и верхнюю границы интеграла, но и чтобы проинтегрировать его.

Ярослав, спасибо!