u''[x,x] - 25*u[t,t]=16*u
u(x,0)=u'[t](x,0)=cos(3x)-sin(3x)
в квадратных скобках - переменные дифференцирования

собственно, разделить-то я их разделил, а вот что дальше - ступор...
u=X(x)*T(t)
X''[x,x]*T - 25*T''[t,t]*X=16*X*T
X''[x,x]/X = 25*T''[t,t]/T + 16.