Вы получили частное решение д.у. А какое будет общим?
В этом общем имеются две константы - вот их и надо найти, чтобы удовлетворить условиям.
общее будет таким
Y=C1cosx+C2sinx+xsinx
Y'=-C1sinx+C2cosx+sinx+xcosx
т.к. y(0)=1 y'(0)=0
C1=1
C2=0
Y=cosx+xsin
