Вам понадобятся всего 2 формулы:расстояния между двумя точками и расстояния от точки до прямой.