3cos^2x*sin2x+cos2x*sin^2x+1=0
3cos^2x*sin2x+(cos^2x-sin^2x)*sin^2x+1=0
3cos^2x*sin2x+cos^2x*sin^2x-sin^4x+1=0
3cos^2x*sin2x+cos^2x*sin^2x+1-sin^4x=0
3cos^2x*sin2x+cos^2x*sin^2x+(1-sin^2x)*(1+sin^2x)=0
3cos^2x*sin2x+cos^2x*sin^2x+cos^2x*(1+sin^2x)=0
cos^2x*(3sin2x+sin^2x+1+sin^2x)=0
cos^2x=0 или 3sin2x+2sin^2x+1=0

moroz, а дальше попробуйте сами