определите массу контура эллипса, заданного ур-ем x^2/a^2+y^2/b^2=1, если линейная плотность в каждой точке М(x;y) равна |y|

Наверное, эллипс проще задать параметрически: x=a*cost, y=b*sint, t от 0 до 2pi.
А лучше понять, что плотность такова, что нижняя и верхняя половина весят одинаково и считать массу только верхней части. Тогда t от 0 до pi, а модуль с игрека можно снять.