У меня вопросик, с чего можно начать решать.

Пробовал начать со второй строки, но попал в тупик.....
(IMG:http://img.prado.lt/thumbs/imag00dcd.jpg)

что можете посоветовать?

Это называется, смешал грешное с праведным
Делаю с помощью замены, а не внесением под дифференциал
int sqrt[7] (5x+3)^3 dx
Замена
5x+3=t^7
5dx=7t^6dt
dx=7/5*t^6dt

int sqrt[7] (5x+3)^3 dx = int sqrt[7] (t^7)^3 * 7/5*t^6dt = (7/5)*int t^3*t^6dt = (7/5)*int t^9 dt