Ну и давайте вместе разбираться, начнём с конца.
x'''-2x''-2x'=5, x(0)=x'(0)=x''(0)=3
теперь: x'(t)=px(p)-3 так?
x''(t)=p^2 x(p)-3p-3 так?
x'''(t)=? дальше как?