Интеграл зависит от праметра t, но главное - не получается разобраться с границами интегрирования:
(IMG:http://s018.radikal.ru/i507/1201/7a/d3e11ddc0103.jpg)
Внутренний (по у) интеграл в своей нижней границе имеет функцию от х. Я так понимаю, надо разбить внешний интеграл (по х) на такие области интегрирования, на которых максимум определяется однозначно. Но это никак не получается. Приравниваю выражения, стоящие под знаком max, получаю параметрическое тригонометрическое уравнение sin(x)cos(x)+sin(x)=t, которое совсем не радует (IMG:style_emoticons/default/sad.gif)
Может надо как-то иначе? Какую-то хитрую замену? В принципе внутренний интеграл (первообразная) очевидна (арксинус), но арксинус от максимума тоже как-то не радует. И Фубини в углу курит уже вторую пачку... нервно ... (IMG:style_emoticons/default/sad.gif)

Забавный интеграл.
А в чем задание?
Получить выражение этого интеграла как явной функции от t?
Не уверен, что он выражается через элементарные функции.

Вот мои преобразования (надеюсь, в арифметике не ошибся).

Обозначим значение этого интеграла b(t). Тогда вычисляя интеграл по у, получим, что

b(t)=-int(0,pi) [arcsin(a(x,t))] dx,

где a(x,t)=max{-1,cosx-t/sinx}.

Теперь надо выяснить, на каких интервалах по х этот максимум равен (-1), а на каких cosx-t/sinx. Для этого на интервале (0,pi) решить неравенство
cosx-t/sinx > -1. Это неравенство равносильно

f(x)>t, где
f(x)=0.5*sin2x+sinx.

Исследуя функцию f(x) на интервале (0,pi), легко видеть, что она
на (0,pi/3) возрастает от 0 до 3*sqrt(3)/4, а затем снова убывает до 0 на (pi/3,pi).
Отсюда следует:
1)Для всех t из(0,3*sqrt(3)/4) уравнение f(x)=t имеет в интервале (0,pi)
ровно 2 корня по разные стороны от pi/3. Обозначим меньший и больший из них через a1(t) и a2(t) (не думаю, что эти корни находятся аналитически).
2) Тогда
a(x,t)=
а) (-1), если х из (0,a1(t)) и (a2(t),pi)
б) cosx-t/sinx, если х из (a1(t),a2(t)).

Тогда интеграл приводится к виду:

b(t)=0.5*(pi)^2+0.5*pi*[a1(t)-a2(t)]-int[a1(t),a2(t)] {arcsin(cosx-t/sinx)} dx.

Пока так. Не уверен, что можно дальше продвинуться аналитически. Численно - без проблем для любого t.