Это
[((5^x) -1) * tg (3x)^2] * [ sqrt(1-6x^3) +1] нужно заменить на эквивалентные бесконечномалые, тогда знаменатель x^3 сократиться и в пределе получиться число.