Проверьте, пожалуйста мое решение. Есть сомнения, может надо было перейти на полярную систему координат? В таком случае x=2cost, y=2cost-2 ?

Вы на самом деле ищите массу части поверхности (пластины), ограниченную кривыми x=0;y=0;y=x-2
Двойной интеграл int(D){dxdy} есть площадь...
А нужно найти массу ОТРЕЗКА, посмотрите тему криволинейные интегралы
m=int(AB){gamma*dS}
gamma - плотность
dS - дифференциал дуги

Вот так? Посмотрите ещё раз, пожалуйста!

Теперь похоже на правду, так как масса скалярная величина, то m=Ln|3-2*sqrt2|=Ln(2*sqrt2-3)=1.76275

Исправился, так правильно...

спасибо, и действительно, глупая ошибка под конец,