Сначала находим общее решение однородного уравнения
y'' + 4y = 0
k^2 + 4 = 0
k = +- 2i
y_одн = C1 * sin 2x + C2 * cos 2x
Находим частное решение в виде:
y_частн = A * sin x + B * cos x + C * x * e^(2x) + D * e^(2x)
y' = A * cos x - B * sin x + C * e^(2x) + 2C * x * e^(2x) + 2D * e^(2x)
y'' = -A * sin x - B * cos x + 4C * e^(2x) + 4C * x * e^(2x) + 4D * e^(2x)
Подставляем в исходное уравнение:
-A * sin x - B * cos x + 4C * e^(2x) + 4C * x * e^(2x) + 4D * e^(2x) +
+ 4A * sin x + 4B * cos x + 4C * x * e^(2x) + 4D * e^(2x) =
= sin x + x * e^(2x)

3A * sin x + 3B * cos x + 4C * e^(2x) + 8C * x * e^(2x) + 8D * e^(2x) = sin x + x * e^(2x)
3A = 1, 3B = 0, 4C + 8D = 0, 8C = 1
A = 1/3, B = 0, C = 1/8, D = -1/16
Тогда
y_частн = 1/3 * sin x + 1/16 * (2x - 1) * e^(2x)
Ну и ответ
y = y_одн + y_частн