.........хм.......честно сказать я не понимаю что требуется сделать.....
поэтому прошу...кинуть ссылки с подобными примерами....лекциями...на эту тему...
ЗАДАНИЕ:
Выяснить что в следующих парах квадратичных форм одна является
положительно определенной;
найти невырожденное линейное преобразование, приводящие эту форму
к нормальному, а другую форму той же пары к каноническому виду и написать
этот канонический вид (линейное преобразование определенно не однозначно):
g=(x1^2)+56(x2^2)+16(x1x2)

Еще должна быть форма f. Посмотрите № 1255 из Проскурякова, там форма f есть. (IMG:style_emoticons/default/smile.gif)

Алгоритм решения таков:
1. Выясняем какая из форм является положительно определенной.
2. Приводит эту положительно определенную форму методом Лагранжа к нормальному виду, получаем преобразование (1), приводящее ее к такому виду.
3. Ко второй форме применяем преобразование (1).
4. При помощи ортогонального преобразования приводим вторую форму к каноническому виду, при этом первая форма остается в нормальном виде.

П.С. Посмотрите в № 1230