Нужно посмотреть, куда перейдут при данном операторе вектора базиса, полученные вектора надо будет выразить через базис. Коэффициенты разложения - это элементы матрицы оператора.