Интеграл зависит от праметра t, но главное - не получается разобраться с границами интегрирования:
(IMG:http://s018.radikal.ru/i507/1201/7a/d3e11ddc0103.jpg)
Внутренний (по у) интеграл в своей нижней границе имеет функцию от х. Я так понимаю, надо разбить внешний интеграл (по х) на такие области интегрирования, на которых максимум определяется однозначно. Но это никак не получается. Приравниваю выражения, стоящие под знаком max, получаю параметрическое тригонометрическое уравнение sin(x)cos(x)+sin(x)=t, которое совсем не радует (IMG:style_emoticons/default/sad.gif)
Может надо как-то иначе? Какую-то хитрую замену? В принципе внутренний интеграл (первообразная) очевидна (арксинус), но арксинус от максимума тоже как-то не радует. И Фубини в углу курит уже вторую пачку... нервно ... (IMG:style_emoticons/default/sad.gif)

Дмитрий, я еще раз попробую объяснить, что имею в виду под дифференцированием.
По сути дела, весь вопрос не в максимуме, а в том, как взять интеграл \int_{x_1(t)}^{x_2(t)} \int_{-1}^{\cos x-t/\sin x} \frac{dy}{\sqrt{1-y^2}}dx.
Если его с одной стороны брать по частям или какой-то заменой, а с другой дифференцировать по параметру, то какие-то вроде бы похожие вещи вылезают... И из этого как-то можно по идее диф. уравнение составить....
Просто никак не успеваю аккуратно сделать.
В любом случае спасибо за задачу ) Будут новости - напишите, интересно.

Буду еще думать, но если сможете найти время и дописать, будет здорово. У меня пока не выходит, хотя постоянно пытаюсь что-то придумать.