Пределы интегрирования выбираются так, чтобы при обходе по контуру фигуры от нижнего предела до верхнего (которые подставляются в интеграл), фигура находилась по левую сторону.
П.С. Площадь не может быть отрицательной.



Хм... Хотя вроде если брать от п/6 до 5п/6 вроде так и получается.