Откуда такие коэффициенты?
5/4, .../8.


Ssin2xe^(-4x)dx=4/5*(-sin2xe^(-4x)/4-cos2xe^(-4x)/8)= -e^(-4x)/10*(2sin2x-cos2x), т.е.
u=-e^(-4x)/10*(2sin2x-cos2x)
Общее решение исходного уравнения
y=-e^(-4x)/10*(2sin2x-cos2x)*c*e^(-4x)
А теперь надо подставлять начальные условия, чтобы найти частное решение?