корни
x1 = [5+(i*корень 87)] /2
x2 = [5-(i*корень 87)] /2

Теперь решите 2 системы

для x1
(-x1)X1 -7X2=0
4X1+(5-x1)X2=0

X1=....., X2=.....

для x2
(-x2)X1 -7X2=0
4X1+(5-x2)X2=0

X1=....., X2=.....