y''-2y'+y=(e^x)/x

А как делали?
Сначала найдите решение однородного, а затем метод вариации.

Записываем характеристическое уравнение
t^2-2t+1=0;t=1;
yоо=C1*e^x
до этого дошёл

а второй корень какой?

не совсем так.

Дискрименант D=b*b-4ac=4-4=0
1 корень уравнения

Квадратное уравнение имеет два корня.

2 корня, значения совпадают
В итоге один корень кратности 2

Для одного корня кратности 2 получаем
y = C1 * e^x + C2 * x * e^x

Учн=(x^2)*(ax+a2)*(e^x)-правильно?
Дальше находить производные и подставлять в главное уравнение для определения коэф??

Нет, правая часть данного уравнения неспециального вида, здесь надо применять метод вариации произвольной постоянной.

Где о нём можно прочитать?

Например, здесь или здесь