Это называется, смешал грешное с праведным
Делаю с помощью замены, а не внесением под дифференциал
int sqrt[7] (5x+3)^3 dx
Замена
5x+3=t^7
5dx=7t^6dt
dx=7/5*t^6dt

int sqrt[7] (5x+3)^3 dx = int sqrt[7] (t^7)^3 * 7/5*t^6dt = (7/5)*int t^3*t^6dt = (7/5)*int t^9 dt