С первого тангенс не пробовали выразить и подставить во второе? Может что-то нормальное и получится?!

Т.е. сделать замены: sin(-2x)=t, tg5y=z.