Тогда посмотрите в любом учебнике по численным методам (в сети также можно) каак систему АХ=В привести к "реккурентному" виду. Там что-то находится максимальное и минимальное собственное число...