1. Находите координаты середины М отрезка АС и составляете уравнение прямой, проходящей через эту точку перпендикулярно вектору AC. На полученной прямой находите точки, которые лежат от М на том же расстоянии, что и точки А и С. Получите все 4 вершины квадрата. Дальше только уравнения прямых по двум точкам.

2. Точка А не лежит на данной прямой. Находите расстояние от точки А до данной прямой и вспоминаете формулу площади квадрата.