Подскажите, пожалуйста, с чего начинать решение. Нашла общий вид ответа на этот интеграл arcsin xy, но преподаватель сказал, что ответ не правильный. Как решить этот интеграл?

int (x/ (1-(x^2)*(y^2))^(1/2)

В результате получается int 1/(1-t^2)^(1/2)dt = arcsin t или ответ будет x*arcsin(xy).

Получается, что это преподаватель ошиблась, а не я

+C

х где взялся?

Не поверите, но и такое бывает. Все люди, все могут ошибаться. Но вы теперь аккуратненько распишите свой интегральчик и покажите еще раз.