Интересный вопрос. Ответ на него в условии задачи: y'=yx+x^3. Теперь подставьте сюда начальные условия.

Решение ищем в виде ряда:
y=y(0)+(y'(0)/1!)*x+(y"(0)/2!)*x^2+(y"'(0)/3!)*x^3+...
Т.е. вам надо дифференцировать уравнение и подставлять туда уже полученные значения.