y''-25=400x*e^(5x)
к1=5,к2=-5
y=c1*e^(5*x)+c2*e^(-5*x)
Y=x*e^(α*x)Q(x)

-25|y*=e^(5x)(Ax+B0)
0|y*'=5e^(5x)(Ax+B0)+e^(5x)A
1|y*''=25e^(5x)Ax+5e^(5x)A+5Ae^(5x)

-25A+25A+5A+5A=400
10A=400
A=40

y*=40e^(5x)

Подставляем... получается:
y=C1е^(5x)+C2е^(-5x)+40е^(5x)