Предел функции будет равен значению этой функции в 0, т.е.
lim(sqrt(4x)-x)/(x^2-16) [при x->0] =0/(-16)=0

Хотя вероятнее всего в задании опечатка, и x->4, как написано выше.