У Вас есть выражение

[sqrt(2)-(cosx+sinx)]*(длинное выражение) / [1-sin2x]

В длинное выражение нужно подставить Pi/4 и получить "число", а оставшееся выражение [sqrt(2)-(cosx+sinx)]*("число") / [1-sin2x]
домножьте и разделите на сопряженный числитель. Числитель сверните как разность квадратов и раскройте скобки. В ответе получите 3/sqrt(2)