Найти S фигуры ограниченой линиями:
r=cos(фи)
r=корень(2)Cos(фи-pi/4)

-pi/4<=фи<=pi/2

первое уравнение задает окружность(диаметр 1), второе розу, непонимаю как построить розу.

И второе уравнение тоже задает окружность.

тогда как фи-pi/4 отразится на чертеже?

Окружность r=2^(1/2)*сos(фи-pi/4)
будет выглядеть так
центр (pi/4,1/2) радиус=2^(1/2)/2

Центр окружности будет лежать на биссектрисе угла первой четверти.

А почему на pi/4 если там фи - pi/4

постройте пожалуйста полный рисунок, и скажите пожалуйста как найти пределы интегрирования?

Для нахождения пределов, найдите точки пересечения, а для этого решите систему уравнений.
Рисунки Вам уже все, по-моему, построили.