Цитата(kaa @ 23.7.2009, 15:45) *

решить квадратное уравнение?

У вас не квадратное, а иррациональное уравнение.
Цитата(kaa @ 23.7.2009, 15:45) *

sqrt(5x)=(x-3)(x+16)
sqrt(5x)=x^2-16x-3x+48

Как скобки раскрывали? Проверьте еще раз знаки.
Цитата(kaa @ 23.7.2009, 15:45) *

значт по свойствам геом. прогр. получается

по каким именно?
Такое использовали: Изображение ? Судя по всему потеряли квадрат.