Меня смущает то что в ответе mVcosa, а в вашем решении 2mVcosa... просто еще есть подсказка к заданию, что вектор dP нужно брать как сонаправленный нормали О_о. Получается что V1x и V1y не учитываются (равны нулю). Бред какой то...
импульс тела величина векторная сонаправлена со скоростью тела
не учитываются V1y V2y см. рис

что происходит с V1y и V2y до и после удара?
dP - получается вектор сонаправленный нормали. (v2-V1= какое направление?)
тут можно посмотреть
П.С могу ошибаться так как по физике трояк:)