Т.к. 3П/2<a<2П, то это четвертая четверть, тогда синус отрицателен. Т.е. после извлечения корня должно получится sin a=-0.8.