Систему составили вроде верно. Продублирую:
C1'*e^(2x)+C2'*e^x=0
2C1'e^(2x)+C2'*e^x=2e^(3x)
Решаете ее относительно неизвестных C1 и C2.
Для этого, например, из второго уравнения вычитаете первое.