Skiper и tig81 Спасибо. Все по делу.

Нашел x=C1e^(-6t)sint+C2e(-6t)cost, далее нашел x' и подставил в первое уравнение.