Вам нужно sin(x^2) разложить в ряд Маклорена, проинтегрировать и взять сумму первых слагаемых ряда, обеспечивающую необходимую точность вычисления. Примеры есть в книжках.