... используя условие ортогональности $A^TA=1$ для вещественных матричных групп ...
Если матрица A вещественная и при этом ортогональная, то она в частности и унитарная. Иначе говоря, группа унитарных матриц содержит в каяестве подгруппы группу ортогональных.