Огромное всем спасибо за помощь. Решил. Действительно надо было числитель и знаменатель еще умножить на sqrt(2*x+3) + 3. После этого сокращаем дробь и неопределенность 0 / 0 исчезает.