Была еще одна идея (правда не у меня),
разбить пятиугольник на 5 равнобедренных треугольников:

АОВ, ВОМ, МОN, NOD, DOA.

S пятиугольника=2S (АОВ) +2S (ВОМ) +S (МОN).
Но и это идея подвисла...