Читайте внимательнее:
Цитата(Genmich @ 29.8.2009, 7:01) *

... используя условие ортогональности $A^TA=1$ для вещественных матричных групп ...

Если матрица A вещественная и при этом ортогональная, то она в частности и унитарная. Иначе говоря, группа унитарных матриц содержит в каяестве подгруппы группу ортогональных.