Это несобственный интеграл второго рода (функция неограничена при приближении к одному из концов отрезка интегрирования.
Замените предел 1 на параметр а, вычислите полученный интеграл (заменой переменной t=x^2-1) и в ответе перейдите к пределу a->1 .

P.S. Пардон, не заметил, что под корнем x^2-1. Думаю, опечатка, надо было 1-x^2. Тогда по описанному плану.