Ну можно например для начала подинтегральную функцию оценить сверху. Про n и k ничего не известно?

А ещё можно попробовать признак сравнения в предельной форме.