x^2*u''{x,x}-y^2*u''{y,y}-2y*u'{y,y}=0

a=x^2, b=0, c=-y^2
b^2-ac=x^2-y^2 => гиперболический тип

Характеристическое уравнение:
(x^2)*dy^2-(y^2)dx^2=0
как решить не знаю

как это определили?

Ошибся со знаком, вместо b^2-ac=x^2-y^2 должно быть -
b^2-ac=x^2*y^2>0 след гиперболический тип

смотрите пример

тут простой вариант, и коэффициенты a,b,c -целые. Помогите решить характеристическое уравнение(x^2)*dy^2-(y^2)dx^2=0

В примере есть фраза:

сделали?

Это понятно:

dy=(y/x)*dx и dy=-(y/x)*dx

Это сделали?
Т.е. надо решить полученные дифференциальные уравнения.

Первое:
int[dy/y]=int[dx/x]
ln |y| = ln|x| +ln|с|
y=x+c
c=y-x

Второе:
int[dy/y]=-int[dx/x]
ln |y| = -ln|x| +ln|с|
y=-x+c
c=y+x

Тогда если не сложно, подскажите как взять новые переменные кси и этта

смотрите по ссылке, я все делаю согласно ее.

e=y*x
n=y/x

e{x}=y e{y}=x e{xx}=0 e{xy}=1 e{yy}=0
n{x}=-y/x^2 n{y}=1/x n{xx}=2y/x^3 n{xy}=-1/x^2 n{yy}=0


Правильно?

Если это частные производные, то да.