Для начала бы я переписал уравнение в виде
f''+f'= -2sin2xsinx,
а дальше подумал бы как преобразовать произведение синусов
в линейную комбинацию тригонометрических функций.

cos(x-y)=cosx*cosy+sinx*siny
cos(x+y)=cosx*cosy-sinx*siny

выразите отсюда sinx*siny и подставьте свои значения

Потом задача решается намного проще