Получается что-то вроде
S = 2 * int (0 а*sqrt3) int (pi/6 5pi/6)[a^2 /r^2* (3 * sin^2 fi - cos^2 fi)]dr dfi