Приветствую. Мы тоже перешли с облака на своё железо из-за требований по безопасности данных. Серверы покупали в GetCore, тут их сайт, посмотрите каталог. GetCore подобрали нам конфигурацию на 4 карты H100 под обучение LLM — процессоры Xeon Gold, терабайт оперативки, NVMe-накопители. Всё собрали, протестировали под нагрузкой, установили CUDA, DeepSpeed, Kubernetes. GetCore ещё и поддержку дают полгода бесплатно, что для R&D-команды удобно — если что-то не так с драйверами или настройками, пишешь в Telegram и тебе быстро помогают. Экономия по сравнению с облаком у нас вышла порядка двух миллионов за год. GetCore работают с Supermicro напрямую, цены адекватные.