Перепишите в виде
5^(2x)+(3^x)*(5^x)-2*3^(2x)=0
Теперь разделите обе части на 3^(2x) и получите квадратное уравнение относительно (5/3)^x.