Преобразуем уравнение к виду
(6x+3xy^2)dx=(2yx^2+6y)dy

Пусть m(x,y)-интегрирующий множитель, тогда

m(x,y)*d(6x+3xy^2)/dy=m*6xy

d[m(x,y)*(2yx^2+6y)]/dx=m'(x,y)*(2yx^2+6y)+m(x,y)*4xy

Приравниваем
m*6xy=m'(x,y)*(2yx^2+6y)+m(x,y)*4xy
m'(x,y)*(2yx^2+6y)-m(x,y)*2*x*y=0
делим на 2y
m'(x,y)*(x^2+3)-m(x,y)*x=0
Решаем это простейшее уравнение и получаем интегрирующий множитель
m(x,y)=C1*sqrt(x^2+3) или в частности m(x,y)=sqrt(x^2+3)
После чего переписываем Ваше уравнение в виде
sqrt(x^2+3)*(6x+3xy^2)dx=sqrt(x^2+3)*(2yx^2+6y)dy
а это уже уравнение в полных дифференциалах, метод решения которого известен. Дальше сами.