Сделал систему уравнений, метод исключения:
y'=2y-4z
z'=y-3z+e^x

далее я выразил из 2-го уравнения у:
-у=-z'-3z+e^x
y=z'+3z-e^x
тогда нашёл производную и подставил её в 1-ое уравнение:
y'=z''+3z'-e^x

z''+3z'-e^x=2y-4z
z''+3z'+4z=2y-e^x

нашёл характеристическое уравнение,
если
z=e^kx
z'=k*(e^(kx))
z''=k^2*(e^(kx))

k^2*(e^(kx))+3*k*(e^(kx))+4*e^(kx)=0
e^(kx)(k^2+3k+4)=0
k^2+3k+4=0
k1=(-3+корень7i)/2
k2=(-3-корень7i)/2
комплексные корни, значит z1=e^(-3x)cos(7x), z2=e^(-3x)sin(7x)
общее решение z=С1*e^(-3x)cos(7x)+С2*e^(-3x)sin(7x)

Значит потом нужно найти производную z' и подставить в z'=y-3z+e^x и из него найти у?

Да, забыл, что там ещё есть -e^x
z''+z'-2z=-e^x
частное решение имеет вид z*=(Ax^2+Bx)*e^x, тогда нахожу

z*'=(e^x)*A*(x^2)+2*(e^x)*Ax+Bx*e^x+B*e^x
z*''=(e^x)*A*(x^2)+4*(e^x)*A*x+2*(e^x)*A+(e^x)*B*x+2*(e^x)*B

(e^x)*A*(x^2)+4*(e^x)*A*x+2*(e^x)*A+(e^x)*B*x+2*(e^x)*B+(e^x)*A*(x^2)+2*(e^x)*Ax
+Bx*e^x+B*e^x-2*(A*(x^2)*e^x+B*x*e^x)=-e^x

6*(e^x)*A*x+2*(e^x)*A+3*(e^x)*B=-e^x
6A=-1
A=-1/6
тогда В=-2/9
наверно не так, потому что там если находим А, то 6А=-1, а при нахождении В наверно ошибка

Вроде нашёл ошибку:
6A=0 => A=0
3*B=-1
b=-1/3

z*=(-1/3)*x*e^x

Почему так?