после подстановки получилось вот что:

r=c*корень2cos2fi

ищем площадь

s=4 int int a*b rdrdfi=4 int(предел от 0 до pi/4) dfi int(предел от 0 до c*корень2cos2fi) a*b rdr = 2*a*b*c^2

вот конечный ответ

проверьте пожалуйста правильно или нет