CoreWeave запускает инфраструктуру NVIDIA Vera Rubin AI и платформу Forge для готового к производству агентного AI

Image: NVIDIA · Source

CoreWeave вводит в облако системы NVIDIA Vera Rubin NVL72 и процессор Vera CPU, улучшая работы AI-агентов с ускорением вывода до 4,8 раза и более чем в 3 раза более быстрым запуском песочниц. Также представлен CoreWeave Forge — единая платформа для упрощения обучения и развертывания AI-моделей.

CoreWeave, облачный провайдер, специализирующийся на нагрузках AI, объявил о развертывании инфраструктуры нового поколения AI от NVIDIA в своей облачной платформе, что является значительным шагом в поддержке готовых к производству агентных AI-приложений. Опираясь на почти десятилетнее тесное сотрудничество с NVIDIA, CoreWeave теперь предлагает своим клиентам систему NVIDIA Vera Rubin NVL72 с сетевыми возможностями Spectrum-X 102.4T Ethernet, обеспечивая значительное улучшение производительности вывода.

Cognition, прикладная лаборатория AI, известная своим разработчиком программного обеспечения Devin AI, стала первым пользователем производственных нагрузок на Vera Rubin NVL72. Ранние бенчмарки показали, что новая инфраструктура увеличивает пропускную способность токенов в задачах вывода при программной инженерии до 4,8 раза по сравнению с предыдущей системой NVIDIA GB200 NVL72. Это позволяет быстрее генерировать код в реальном времени и более оперативно выполнять многошаговое мышление для агента Devin — критично для обработки сложных нагрузок с длинным контекстом и высокой конкуренцией.

Кроме того, CoreWeave стал одним из первых облачных провайдеров, внедривших NVIDIA Vera CPU, процессор, разработанный с нуля для агентных AI-нагрузок. Его архитектура поддерживает одновременный запуск тысяч изолированных сред, что необходимо для масштабирования тренировки и оценки агентов. Тесты показали, что развертывание Vera CPU в CoreWeave обеспечивает более чем в три раза быстрее запуск песочниц агентов, ускоряя изолированные среды обучения с подкреплением и оценки. Стойки Vera CPU предоставляют до 11 264 ядер на стойку, что позволяет запускать свыше 11 000 изолированных задач агентов одновременно.

В дополнение к аппаратному обеспечению произошел запуск CoreWeave Forge — интегрированной платформы, призванной закрыть цикл разработки AI, объединив обучение, оценку и непрерывное улучшение моделей. Forge объединяет инструменты вроде Weights & Biases, экспертизу OpenPipe и проект открытого исходного кода marimo notebook, предлагая открытую и связную среду для разных моделей AI, фреймворков и облаков. Новые функции включают CoreWeave ARIA для анализа экспериментов и итераций кода, Agent Lens для улучшенного мониторинга производственных агентов и обнаружения сбоев, а также CoreWeave Sandboxes для безопасного и эффективного запуска изолированных задач AI-агентов.

CoreWeave Forge поддерживает бессерверное контролируемое дообучение и обучение с подкреплением, позволяя, по данным компании, тренировать модели в 1,4 раза быстрее и с на 40% меньшими затратами по сравнению с самостоятельным управлением. Дополнительно, открытый фреймворк вывода NVIDIA Dynamo питает управляемые сервисы вывода CoreWeave и поддерживает RL Rollouts, обеспечивая непрерывное обучение с подкреплением без повторного развертывания.

Объединенная платформа NVIDIA и CoreWeave привлекла широкий круг пользователей — от стартапов до крупных предприятий. Например, Ennoble Care, крупный поставщик медицинских услуг, использует инфраструктуру CoreWeave для клинического AI-вывода, поддерживая документацию и принятие решений в нескольких штатах. CoreWeave также обладает престижными отраслевыми рейтингами, включая платиновый статус в нескольких бенчмарках MLPerf, и обслуживает 9 из 10 ведущих AI-лабораторий.

Эти достижения ставят CoreWeave и NVIDIA в ряд ключевых участников, способствующих переходу AI-агентов из экспериментальной фазы в надежные производственные системы, способные развивать программное обеспечение, поддерживать клинические задачи и выполнять другие сложные задачи в реальном мире. Новые продукты были объявлены и продемонстрированы на мероприятии CoreWeave Fully Connected в Сан-Франциско.