Неверно выписано второе уравнение системы. Вы же не нашли уравнение "прямой, проходящей через начало....". Вот найдите уравнение этой прямой и суйте его в качестве второго уравнения в системе.