Для начала бы я переписал уравнение в виде
f''+f'= -2sin2xsinx,
а дальше подумал бы как преобразовать произведение синусов
в линейную комбинацию тригонометрических функций.
cos(x-y)=cosx*cosy+sinx*siny
cos(x+y)=cosx*cosy-sinx*siny
выразите отсюда sinx*siny и подставьте свои значения
Потом задача решается намного проще