Скорее всего, левую часть заданного уравнения надо записать в виде:
yy''+y'^2=(yy')', т.е.
(yy')'=х, тогда y*dy/dx=x^2/2+C1 и т.д.