Подскажите, пожалуйста, с чего начинать решение. Нашла общий вид ответа на этот интеграл arcsin xy, но преподаватель сказал, что ответ не правильный. Как решить этот интеграл?

int (x/ (1-(x^2)*(y^2))^(1/2)

где нашли?

все может быть

интегрирование по какой переменной ведется?

по dy

int (xdy/ (1-(x^2)*(y^2))^(1/2) = xint (dy/ (1-(x^2)*(y^2))^(1/2)
Далее делаете замену ху=t, х - константа. Запишите, что получается.

вот на этом сайте представлена таблица интегралов http://www.pm298.ru/itab_integral8.php, и там есть общий вид интеграла int (1/(a^2 - x^2)^(1/2) dx = (arcsin x/a).

В случае моего примера а=1

я тоже думаю, что вы правы, но давайте это покажем.
Может быть еще проблема в том, что вы не до конца переписали условие.
\Так что сделайте указанную замену и перепишите ваш интеграл.

В результате получается int 1/(1-t^2)^(1/2)dt = arcsin t или ответ будет x*arcsin(xy).

Получается, что это преподаватель ошиблась, а не я

+C

х где взялся?

Не поверите, но и такое бывает. Все люди, все могут ошибаться. Но вы теперь аккуратненько распишите свой интегральчик и покажите еще раз.