Вы неправильно вычисляете площадь правильного шестиугольника. Его площадь через радиус описанной окружности:
S=(1/2)*(R^2)*6*sin(360/6)=...