максимальное из этих двух чисел...
зависит от параметра, конечно... что неприятно

Там нижняя граница области интегрирования просто состоит из трех кусков - прямая у=-1, а посередине горбик (когда второй аргумент больше). И судя по границам для t, задание разумное.