Надо понимать, что матрицы А, В и b заданы?!
Напомните, пожалуйста, в чем суть указанных вами свойств: ортогональность,симметричность,законоопределеность.