Любую. Отличаются не столько формулы для матожидания, сколько определения геометрического распределения (и следовательно значения матожиданий).

У Кремера геометрическим называется распределение номера первого успешного испытания в схеме Бернулли. Соответственно, значения у этой величины меняются от единицы до бесконечности. Такое определение геометрического закона принято, мне кажется, в петербургской научной школе и связанных с ней (новосибирской и т.п.). В московской вероятностной школе (и в википедии ) геометрическим названо распределение числа неудач, предшествующих первому успеху. Соответственно, значения эта величина принимает от нуля до бесконечности, и на единицу ровно отичается от санкт-петербургской

Поэтому и математические ожидания отличаются: 1/p и 1/p - 1 = q/p.

Да, в задаче геометрическое распределение. Чтобы понять, какое именно, найдите, какие значения принимает число вынутых чёрных шаров и с какими вероятностями. Но вообще с вариантом распределения Вы угадали, именно 2/3. Число чёрных шаров - это как раз число неудач ДО первого успеха.