((x+1)*θ(x))'

Обозначения:
Int - интеграл
| - подстановка
в квадратных скобках - пределы

θ(x) - функция хэвисайда
θ(x)={1, x>=0; 0, x<0
значит f(x) примет вид
f(x)={(x+1), x>=0; 0, x<0
по общему правилу дифференцирования обобщенной функции:
(f'(x);φ(x))=-(f(x);φ'(x))=-Int[0;+inf]((x+1)*φ'(x)dx)
интегрируем по частям
φ'(x)=du
(x+1)=v
(f'(x);φ(x))=-(x+1)*φ(x)|[0;+inf]+Int[0;+inf](φ(x)dx)
(f'(x);φ(x))={1, x>=0; 0, x<0
т.е.
(f'(x);φ(x))=θ(x)

собственно, это не правильно, где ошибка?

А как задается эта функция?

под f(x) подразумевается дифференцируемая функция, (x+1)*θ(x)

Тогда не совсем поняла, что вы делаете дальше, т.е. как дифференцируете.
Если f(x)={(x+1), x>=0; 0, x<0, то f'(x)={1, x>=0; 0, x<0 ? Или нет?

у меня получилось, что
f'(x)={1, x>=0; 0, x<0
т.е.
f'(x)=θ(x)
проблема в том, что это не так))

Хм... Ответ есть?

нет, и это вторая проблема...

Я не утверждаю, что ответ правильный, но откуда уверенность, что он неправильный?

эта уверенность родилась в результате попытки сдать(

Понятно. А преподаватель сказал, где именно ошибка?

не, послал искать самостоятельно.

Думаю, что Вы потеряли слагаемое (x+1)*φ(x)|[0;+inf]
Нижняя подстановка дает дельта функцию т.к. получается φ(0), а верхняя 0

очень может быть...