Интеграл зависит от праметра t, но главное - не получается разобраться с границами интегрирования:
(IMG:http://s018.radikal.ru/i507/1201/7a/d3e11ddc0103.jpg)
Внутренний (по у) интеграл в своей нижней границе имеет функцию от х. Я так понимаю, надо разбить внешний интеграл (по х) на такие области интегрирования, на которых максимум определяется однозначно. Но это никак не получается. Приравниваю выражения, стоящие под знаком max, получаю параметрическое тригонометрическое уравнение sin(x)cos(x)+sin(x)=t, которое совсем не радует (IMG:style_emoticons/default/sad.gif)
Может надо как-то иначе? Какую-то хитрую замену? В принципе внутренний интеграл (первообразная) очевидна (арксинус), но арксинус от максимума тоже как-то не радует. И Фубини в углу курит уже вторую пачку... нервно ... (IMG:style_emoticons/default/sad.gif)

Ну от максимума тут избавиться можно - как Вы и хотели: найти эти области (пусть решения пока будут неявными), тогда два интеграла будут простыми, и останется один, у которого параметр будет в границах, но уже без максимума. Вот и его и продифф-ть. Зная начальные условия (а они-то просто находятся), из производной найти сам интеграл...
Но это так, план. Может, ничего хорошего и не выйдет. Просто некогда пока на бумажке попробовать.

Арксинус от максимума, кстати, сам по себе - тоже ничего особенно страшного, он же монотонный, так что максимум разве что в минимум превратиться. Но вот арксинус от второго аргумента - это действительно как-то непонятно что.

Гм...
1. остается проблема с неявными областями интегрирования,
2. второй интеграл после дифференцирования становится еще страшнее.