Еще должна быть форма f. Посмотрите № 1255 из Проскурякова, там форма f есть.

Алгоритм решения таков:
1. Выясняем какая из форм является положительно определенной.
2. Приводит эту положительно определенную форму методом Лагранжа к нормальному виду, получаем преобразование (1), приводящее ее к такому виду.
3. Ко второй форме применяем преобразование (1).
4. При помощи ортогонального преобразования приводим вторую форму к каноническому виду, при этом первая форма остается в нормальном виде.

П.С. Посмотрите в № 1230