Цитата(Arinka @ 23.10.2009, 19:57) 
4x^2+y^2+9z^2-4xy-6yz+12zx+8x-4y+12z-5=0
нашла собственные значения 0(кратный) и 14.Делаю поворот кооординатных осей.
получаются вектора (1/sqrt3;-1/sqrt3;1/sqrt3) (1-й и 2-й),3-й получился нулевым.Правильно ли я это нашла и как поступить дальше?(в матрице получается нулевой столбец)
1. Вам только через собственные значения надо делать?
2. Напишите решение подробнее, так удобнее проверять.
3. Пример + посмотрите на форуме, что-то подобное недавно было.