вы решаете линейное уравнение y'+p(x)y=f(x). А у вас уравнение Бернулли получилось. По ссылочке ходили?


приводим к виду 2z'x=z^2+4z+3 и разделяем переменные.
Тогда
2dz/(z^2+4z+3)=dx/x
Проинтегрируете,потом выполните обратную замену z=y/x.