Если Вы умножаете числитель на (1+ (cosx)^(1/2)), то и знаменатель тоже нужно домножить на (1+ (cosx)^(1/2)) чтобы смысл не изменился. Только после этого числитель сворачиваете как разность квадратов