да, теперь разбивайте на два интеграла: для первого делайте замену, которую вы прделагали, для второго - выделяйте полный квадрат под корнем