Почему делить на cos^6 fi, если y = r * sin fi ?
Цитата
x = r * cos fi, y = r * sin fi получилось
(*) r^2 = a^2 * (3 * sin^2 fi - cos^2 fi)/cos^6 fi.



затем непонятно, как в формуле учитывается интегрирование по r , и вообще, как такой "страшный" интеграл дальше считать, не очевидно!

Между прочим, зачем тогда условие а>0?

Как мне представляется, особую точку мы сами создаём, когда делим на у^6, но я не могу представить даже приблизительно форму исходной кривой. Поэтому не очевидно, что r меняется от 0 до бесконечности.
При у=0 имеем 0=-а^2*x^2, так как а>0, х=0 в декартовых координатах.
В полярных при fi=pi/2 имеем r^6=а^2(3r^4-0)
r^2=3а^2
r=sqrt3*а
при fi=pi/6 r=0