Система.
x^2+xy=10
y^2+xy=6

xy=10-x^2
x=(10-x^2)/y

Подсталяем сюда y^2+xy=6.
y^2+((10-x^2)/y)*y=6
y^2+10-x^2=6
x^2=y^2+4
x=y+2

Подставляем x^2+xy=10.
y^2+4+(y+2)*y=10
2y^2+2y-6=0
D=52

Застряла.

Пробовала уже и так x=корень из 10-xy, тоже не получается. Где-то что-то не так.