bx = Cx_new - x2
by = Cy_new - y2

Формулы нужны обе.

Допустим области вот так расположены
BA
CD

Тогда соответствие будет такое
A: sin>0 cos>0
B: sin>0 cos<0
C: sin<0 cos<0
D: sin<0 cos>0

Только нужно проверить расстояние ещё.