Там в начале Вы минус потеряли в обеих скобках перед р1х и р1у, но это мелочи. А вообще venja прав, там получается просто квадратное уравнение (несмотря на такую страшную формулу). Приведите в скобках подобные слагаемые (относительно а), сделайте замену (например р4х-р3х-р2х+р3х=А, это будет коэффициент перед а в первой скобке, и т.д.).