??? А как это вы, товарищ Троль так легко сделали? Откуда вы взяли AO = {4;-3} и вектор {3;4} ?

Я исправил ошибку и у меня в конце получилось
25(X^2)-(250X)+196=0
все равно не сходиться

Может ошибки в начале?
В (Yb-4)/(Xb-1)=(9-Xb)/(2+Yb)

(Yb-4)(2+Yb)=(9-Xb)(Xb-1) ????