Смотрел ваш форум, где ршались такие же задачи, но свою подогнать под ваши не смог

y=корень квадратный из(x^2-3x)

уравнение: (x^2+y^2)dx-3xydу=0

показать, что функция y удовлетворяет уравнению...
алгоритм видел, но самому решить не получается((

y'=dy/dx
Находите производную,подставляйте в уравнение.

я производную выражения из y по x не могу посчитать((((
получается вроде
dy/dx=(2x-3)/(2*корень квадратный(x^2-3x))

??

а дальше что? куда подставлять?
можно так:
(x^2+y^2)dx-3xydу=0 -> (x^2+y^2)-3xy*dy/dx=0 и подставить.??

если так то не сходится

Да,действительно не сходится.Производную верно посчитали.
Скорее всего,где-нибудь в условии опечатка.