Берете два вектора-стороны, берете их скалярное произведение и делите на произведение их длин.