Сделал систему уравнений, метод исключения:
y'=2y-4z
z'=y-3z+e^x

далее я выразил из 2-го уравнения у:
-у=-z'-3z+e^x
y=z'+3z-e^x
тогда нашёл производную и подставил её в 1-ое уравнение:
y'=z''+3z'-e^x

z''+3z'-e^x=2y-4z
z''+3z'+4z=2y-e^x

нашёл характеристическое уравнение,
если
z=e^kx
z'=k*(e^(kx))
z''=k^2*(e^(kx))

k^2*(e^(kx))+3*k*(e^(kx))+4*e^(kx)=0
e^(kx)(k^2+3k+4)=0
k^2+3k+4=0
k1=(-3+корень7i)/2
k2=(-3-корень7i)/2
комплексные корни, значит z1=e^(-3x)cos(7x), z2=e^(-3x)sin(7x)
общее решение z=С1*e^(-3x)cos(7x)+С2*e^(-3x)sin(7x)

Значит потом нужно найти производную z' и подставить в z'=y-3z+e^x и из него найти у?

Нет.
Вам нужно в Ваше уравнение:
z''+3z'+4z=2y-e^x
z''+3z'+4z=2y+e^x
подставить y,который Вы выражали раньше:
y=z'+3z-e^x,
чтобы справа была функция,которая зависит только от x.

y=z'+3z-e^x

y=-3*e^(-3x)*c1*cos(7x)-7*c1*e^(-3x)*sin(7x)-3*c2*e^(-3x)*sin(7x)+7*c2*e^(-3x)*cos(7x)+3*c1*e^(-3x)cos(7x)+3*c2*e^(-3x)sin(7x)-e^x

y=-7*c1*e^(-3x)*sin(7x)+7*c2*e^(-3x)*cos(7x)+3*c1*e^(-3x)cos(7x)+-e^x

Тогда z и y известны значит получается ответ
y=-7*c1*e^(-3x)*sin(7x)+7*c2*e^(-3x)*cos(7x)+3*c1*e^(-3x)cos(7x)+-e^x

z=С1*e^(-3x)cos(7x)+С2*e^(-3x)sin(7x)

Вы не поняли. Перед тем,как решать, нужно подставить в уравнение
z''+3z'+4z=2y+e^x
функцию y, выраженную через z,z' и x, т.е.
z''+3z'+4z=2(z'+3z-e^x)+e^x.

(IMG:style_emoticons/default/smile.gif)
Вы не исправимый.

z''+3z'+4z=2(z'+3z-e^x)+e^x
z''+3z'+4z-2z'-3z=0
z''+z'+z=0

z=e^kx
z'=k*e^kx
z''=(k^2)*e^(kx)

(k^2)*e^(kx)+k*e^kx+e^kx=0
e^(kx)*(k^2+k+1)=0
k1=(-1+корень15i)/2
k2=(-1-корень15i)/2
комплексные числа:
z1=e^(-x)cos(15x)
z2=e^(-x)sin(15x)
z=e^(-x)cos(15x)+e^(-x)sin(15x)

ошибка в решении квадратного уравнения

Спасибо, вместо 4*1 умножил 4*4, глючит меня(IMG:style_emoticons/default/smile.gif)

z''+3z'+4z=2(z'+3z-e^x)+e^x
z''+3z'+4z-2z'-3z=0
z''+z'+z=0

z=e^kx
z'=k*e^kx
z''=(k^2)*e^(kx)

(k^2)*e^(kx)+k*e^kx+e^kx=0
e^(kx)*(k^2+k+1)=0
k1=(-1+корень5i)/2
k2=(-1-корень5i)/2
комплексные числа:
z1=e^(-x)cos(5x)
z2=e^(-x)sin(5x)
z=e^(-x)cos(5x)+e^(-x)sin(5x)

не угадали.

Извините крыша едет

z''+3z'+4z=2(z'+3z-e^x)+e^x
z''+3z'+4z-2z'-3z=0
z''+z'+z=0

z=e^kx
z'=k*e^kx
z''=(k^2)*e^(kx)

(k^2)*e^(kx)+k*e^kx+e^kx=0
e^(kx)*(k^2+k+1)=0
k1=(-1+корень3i)/2
k2=(-1-корень3i)/2
комплексные числа:
z1=e^(-x)cos(3x)
z2=e^(-x)sin(3x)
z=e^(-x)cos(3x)+e^(-x)sin(3x)

z=e^(-x)(С1cos(3x)+С2sin(3x))

дальше ищите y

Проверку не забудьте сделать.

В это уравнение подставляю производную z': y=z'+3z-e^x
z'=-e^(-x)*С1*cos(3x)-3*e^(-x)*С1sin(3x)-e^(-x)*С2*sin(3x)+3*e^(-x)*С1*cos(3x)

y=-e^(-x)*С1*cos(3x)-3*e^(-x)*С1*sin(3x)-e^(-x)*С2*sin(3x)+3*e^(-x)*С2*cos(3x)+3*e^(-x)*С1*cos(3x)+3*e^(-x)*С2*sin(3x)-e^x

y=2*e^(-x)*С1*cos(3x)-3*e^(-x)*С1*sin(3x)+2*e^(-x)*С2*sin(3x)+3*e^(-x)*С2*cos(3x)-e^x
вроде так

преобразование с ошибкой сделаны. Соответственно дальнейшее решение неверное. Переделывайте заново.

Это моя проблема - невнимательность

z''+3z'+4z=2(z'+3z-e^x)+e^x
z''+3z'+4z-2z'-6z=-e^x
z''+z'-2z=-e^x

z=e^kx
z'=k*e^kx
z''=(k^2)*e^(kx)

(k^2)*e^(kx)+k*e^(kx)-2*e^(kx)=0
e^(kx)*(k^2+k-2)=0
k^2+k-2=0
D=9
k1=(-1+3)/2=1
k2=(-1-3)/2=-2

z1=e^0x=1
z2=e^-2x

z=c1+c2*e^-2x

Сколько же можно в таких мелочах косячить?

Извините, исправил
k1=(-1+3)/2=1
k2=(-1-3)/2=-2

z1=e^x
z2=e^-2х
z=c1*e^x+c2*e^-2x

Далее подставляем в y=z'+3z-e^x производную z' и получаем y, что требовалось нашли, т.е z и y

Нет, это Вы только общее решение нашли, теперь нужно ещё найти частное.

Да, забыл, что там ещё есть -e^x
z''+z'-2z=-e^x
частное решение имеет вид z*=(Ax^2+Bx)*e^x, тогда нахожу

z*'=(e^x)*A*(x^2)+2*(e^x)*Ax+Bx*e^x+B*e^x
z*''=(e^x)*A*(x^2)+4*(e^x)*A*x+2*(e^x)*A+(e^x)*B*x+2*(e^x)*B

(e^x)*A*(x^2)+4*(e^x)*A*x+2*(e^x)*A+(e^x)*B*x+2*(e^x)*B+(e^x)*A*(x^2)+2*(e^x)*Ax
+Bx*e^x+B*e^x-2*(A*(x^2)*e^x+B*x*e^x)=-e^x

6*(e^x)*A*x+2*(e^x)*A+3*(e^x)*B=-e^x
6A=-1
A=-1/6
тогда В=-2/9
наверно не так, потому что там если находим А, то 6А=-1, а при нахождении В наверно ошибка

Вроде нашёл ошибку:
6A=0 => A=0
3*B=-1
b=-1/3

z*=(-1/3)*x*e^x

Почему так?

Если сравнивать правую часть -e^x с f(x)=P(x)e^Lx, L совпадает с корнем k1=1, то тогда (Ax^2+Bx)*e^x,