... я решил так: cos (x) не имеет X при cos(x)>|1|, следовательно имеем 2 уравнения: a/(sqr( a*a+b*b ))>1 и a/sqr( a*a+b*b )<-1, решая которые получаем что a/b>0 и a/b<-2, при этом b!=0.