7,5-8ln2~1.9548225555204375246621430283346 - это во-первых.

А во-вторых надобыло находить площадь треугольника образованного осями и прямой x+y=5 за вычетом заштрихованной у Вас области, а иначе зачем в условии x=0 и y=0?
С этой поправкой S=12,5-7,5+8ln2=5+8ln2.
Если хочется приблизительно, то S~10.545177444479562475337856971665