помогите плиз не знаю че делать дальше...

y'-2xy=(e^(x^2))*cosx , начальное условие у(0)=1

замена у=u*v
y'=u'v+uv'

u'v+uv'-2*x*u*v=e^(x^2)*cosx
u'v+u(v'-2x*v)=e^(x^2)*cosx

полагаем v'-2x*v=0
dv/dx=2x*v
dv=2x*vdx делим на v
dv/v=2xdx
ln v =2 (x^2)/2

а что же дальше с этим делать?.......
можно v=e^(x^2) ?

Да. Тогда относительно u получаем уравнение:
u' * v = e^(x^2) * cos x
u' * e^(x^2) = e^(x^2) * cos x
u' = cos x
u = int cos dx = sin x + C
Следовательно, y = e^(x^2) * (sin x + C)
y(0) = 1 => 1 = e^0 * (sin 0 + C) => 1 = C
Ответ: y = e^(x^2) * (sin x + 1)