y=e^-x(cos2x-3sin2x)
y'=e^-x(-sin2x-3cos2x)=e^-x(-sin2x-3*(-sin2x*2))=
тут я запуталась(((если не правильно,подтолкните к правильному ходу решения... (IMG:style_emoticons/default/blush.gif)

Совсем всё неправильно. Нужно использовать формулу
(u * v)' = u' * v + u * v'

получается вот так

y'=e^-x*(cos2x-3sin2x)+e^-x*(-sin2x-3cos2x)=e^-x*cos2x-e^-x*3sin2x-e^-x*sin2x- e^-x*3cos2x=
так?

Нет.
e^(-x), cos 2x, sin 2x - это сложные функции, их производные находятся как производные сложных функций.

Т.е.
(e^u)'=e^u*u'
(sinu)'=cosu*u'
и т.п.

y'=e^-x*(-1)*(-sin2x*2-3cos2x*2)=-e^-x(-2sin2x-6cos2x)???вот так?

Нет. Надо использовать формулу для производной произведения, которая раньше была написана. А также использовать производную сложной функции, которую привела tig81.

y'=(-e^-x)(cos2x-3sin2x)+(-e^-x)(-2sin2x-6cos2x)=-e^-x*cos2x+e^-x*3sin2x+e^-x*2sin2x+e^-x*6cos2x=e^-x*5sin2x-e^-x*5cos2x
так?

нет

То, что выделено красным, неправильно.

y'=(-e^-x)(cos2x-3sin2x)+e^-x(-2sin2x-6cos2x)=-e^-x*cos2x+e^-x*3sin2x-e^-x*2sin2x-e^-x*6cos2x=e^-x*sin2x-e^-x*7cos2x
вот так?

Да

y=e^-x*sin2x-e^-x*7cos2x
y'=(-e^-x*sin2x+e^-x*2cos2x)-(-e^-x*7cos2x+e^-x*(-7sin2x*1))=-e^-xsin2x+e^-x2cos2x+e^-x7cos2x+e^-x7sin2x=e^-x6sin2x+e^-x9cos2x

это вторая производная ,правильно так?

Правильно. Только вторая производная обозначается y''.

пасибки огромное)))))