Процессор NVIDIA Vera ускоряет работу агентов ИИ и повышает энергоэффективность

Image: NVIDIA · Source

Процессор NVIDIA Vera обеспечивает высочайшую скорость агентов ИИ и энергоэффективность, позволяя запускать больше агентов на ватт, чем ведущие процессоры x86. Ранние пользователи сообщают о до 2,2 раза более быстром обработке задач ИИ, поддерживая инфраструктуру ИИ с ограничениями по мощности.

Агенты ИИ выполняют сложные задачи, такие как поиск информации, запросы к базам данных, программирование и выполнение действий, что требует беспрепятственной координации между вычислениями на GPU и исполнением на CPU. В ответ на это NVIDIA представила процессор Vera, разработанный для оптимизации пропускной способности и скорости агентов ИИ при сохранении высокой энергоэффективности.

Провайдеры инфраструктуры ИИ сталкиваются с задачей поддержки множества агентов одновременно без увеличения времени обработки и в рамках строгих энергетических лимитов. Vera решает эти задачи, обеспечивая максимальную скорость агентов при высокой плотности на ватт, объединяя функции, которые обычно распределяются между быстрыми и плотными процессорами x86, в одном решении.

В масштабных сравнениях дата-центров с мощностью 100 мегаватт NVIDIA сообщает, что Vera превосходит самые быстрые и энергоэффективные процессоры x86. В частности, Vera позволяет запускать в 1,6 раза больше агентов на ватт, чем самые быстрые x86, и достигает двойной скорости с лучшей энергоэффективностью по сравнению с наиболее энергоэффективными моделями x86.

Ранние отраслевые пользователи подтвердили преимущества Vera в условиях, приближенных к промышленной эксплуатации. Perplexity ускорила агентские задачи программирования в 1,5 раза и планирует широкое внедрение Vera. DeepInfra достигла до 2,2 раза более быстрой оркестрации агентов по сравнению с лучшими x86 процессорами. ClickHouse продемонстрировал почти линейное масштабирование на 176 ядрах с Vera, достигнув вершины своих аппаратных бенчмарков. Другие компании, такие как DuckLabs, Daytona и Modal, сообщили о значительных приростах производительности в песочницах и пропускной способности по сравнению с традиционными системами x86.

Процессор NVIDIA Vera позиционируется как революционный CPU для AI-фабрик, балансирующий скорость, плотность агентов и энергоэффективность для удовлетворения требований современных нагрузок ИИ. Более подробная информация о Vera и её технических возможностях доступна через официальные каналы NVIDIA.