Делается следующая замена (переходим к новой системе координат)
x = x1 + y1
y = x1 - y1
Тогда
z = x * y = (x1 + y1) * (x1 - y1) = (x1)^2 - (y1)^2