Если обозначить t=9*cosx, возвести в квадрат, то получим эквивалентную формулировку:
Найти все значения а, при которых система

t^2+2*(a-8)*t+a^2-16=0
t>=-a
t<=9
t>=-9

имеет решение.
Задача на расположение корней квадратного трехчлена. Не тривиальная. Посмотрите в пособиях эту тему.