Google Cloud и NVIDIA запускают инстансы A5X на базе Vera Rubin для масштабируемого обучения и вывода ИИ

Image: NVIDIA · Source

Google Cloud и NVIDIA объявляют о скором общем доступе инстансов A5X на базе инфраструктуры NVIDIA Vera Rubin, обеспечивающей интегрированные высокопроизводительные вычисления для обучения, вывода и обучения с подкреплением ИИ с усовершенствованным жидкостным охлаждением и поддержкой безопасных ИИ-агентов.

Google Cloud и NVIDIA совместно объявили о скором общем доступе облачных инстансов A5X, работающих на архитектуре NVIDIA Vera Rubin NVL72, разработанных для трансформации масштабных задач ИИ. Выпуск запланирован на следующий месяц. Эти инстансы A5X объединяют GPU NVIDIA Vera Rubin, сетевые карты ConnectX-9 SuperNIC для высокоскоростного подключения, сетевую инфраструктуру Virgo от Google Cloud и усовершенствованную систему жидкостного охлаждения четвёртого поколения. Эта инфраструктура создана для удовлетворения потребностей агентного вывода, обучения с подкреплением и обучения ИИ с беспрецедентным масштабом и эффективностью.

Платформа на базе Vera Rubin будет сначала доступна в выбранных регионах с планами расширения в Европу, с целью масштабирования до 960 000 графических процессоров Rubin в нескольких центрах обработки данных. Компания Ineffable Intelligence из Лондона, основанная создателем AlphaGo Дэвидом Сильвером, стала первым пользователем, использующим инстансы A5X для разработки систем ИИ с непрерывным обучением — "superlearner". Эти системы требуют огромных вычислительных ресурсов для генерации опыта, оценки результатов и итеративного обновления моделей, цикл которого поддерживается интегрированной инфраструктурой вычислений, сетей и хранилищ.

Помимо высокой производительности вычислений, инстансы A5X включают референсную архитектуру NVIDIA OpenShell, предоставляющую управление, изоляцию и безопасность для ИИ-агентов. Глобальная маркетинговая компания WPP продемонстрировала на платформе творческие рабочие процессы, управляющие запросами разговорного ИИ через многоэтапное создание и редактирование видео, используя модели NVIDIA Nemotron в изолированной среде OpenShell для защиты конфиденциальных ресурсов. Такая безопасная среда исполнения критична для компаний, реализующих собственные модели и данные в общих облачных инфраструктурах.

Google Cloud также развивает возможности конфиденциальных вычислений с предложениями NVIDIA Confidential Computing на bare metal инстансах A4X Max и виртуальных машинах G4 с GPU RTX PRO 6000 Blackwell. Эта технология позволяет клиентам запускать ИИ-обработки с повышенной конфиденциальностью и безопасностью данных, поддерживая конфиденциальный вывод и тонкую настройку моделей.

В дополнение к этим разработкам NVIDIA и Google Cloud совместно исследуют программные решения NVIDIA DSX MaxLPS для оптимизации энергоэффективности и максимизации пропускной способности ИИ в пределах энергетических ограничений центров данных. Эти усилия соответствуют более широким инициативам по обеспечению устойчивой работы ИИ-ферм, которые экономят энергию и воду благодаря инновационным системам охлаждения.

Совместный запуск инфраструктуры NVIDIA Vera Rubin в инстансах A5X Google Cloud представляет собой комплексную, высокопроизводительную и защищённую платформу для организаций, продвигающих границы обучения ИИ, вывода и агентного обучения в промышленном масштабе.