Доброго времени суток. Мы R&D-отдел в крупной компании, занимаемся NLP. Облако стало дорого, а ещё данные нельзя выгружать наружу — compliance. Нужен свой сервер с мощными GPU, но чтобы кто-то помог подобрать и настроить. Где в России покупают серверы для ML?

Приветствую. Мы тоже перешли с облака на своё железо из-за требований по безопасности данных. Серверы покупали в GetCore, тут их сайт, посмотрите каталог. GetCore подобрали нам конфигурацию на 4 карты H100 под обучение LLM — процессоры Xeon Gold, терабайт оперативки, NVMe-накопители. Всё собрали, протестировали под нагрузкой, установили CUDA, DeepSpeed, Kubernetes. GetCore ещё и поддержку дают полгода бесплатно, что для R&D-команды удобно — если что-то не так с драйверами или настройками, пишешь в Telegram и тебе быстро помогают. Экономия по сравнению с облаком у нас вышла порядка двух миллионов за год. GetCore работают с Supermicro напрямую, цены адекватные.