AI

Nvidia представила новые модели Open-Weight для корпоративных и локальных AI-агентов

Tendela Briefing ·
0 просмотров · 0 Комментарии
Nvidia представила новые модели Open-Weight для корпоративных и локальных AI-агентов

Image: Nemotron 3.5 Super VL delivers frontier-level intelligence in its class for high-volume agentic workflows. · Source

Nvidia представила модели Nemotron 3.5 Super VL и Bolt — открытые модели ИИ для корпоративных дата-центров и локальных ПК, обещающие ускоренное выполнение задач и решения с акцентом на конфиденциальность.

Компания Nvidia объявила о выпуске новых открытых моделей ИИ, предназначенных для обеспечения постоянной работы интеллектуальных агентов на корпоративных серверах и локальных периферийных устройствах. Флагманская модель Nemotron 3.5 Super VL содержит 120 миллиардов параметров, оптимизирована для предприятий и предлагает баланс между эффективностью и точностью в задачах следования инструкциям и использовании инструментов. Несмотря на меньший объем параметров по сравнению с более крупной моделью Nvidia Nemotron 3 Ultra, Super VL демонстрирует сопоставимую производительность в таких областях, как интеллектуальная обработка документов, финансовый учет, научные эксперименты, обработка медицинских претензий и устойчивость к киберугрозам.

В дополнение к Super VL, Nvidia представила две более компактные модели Bolt, разработанные для локальных AI-агентов, которые могут работать непосредственно на ПК и рабочих станциях с чипом RTX Spark и системах DGX Spark. Модель Bolt 74B-A9B 24GB обеспечивает баланс между скоростью и способностью к рассуждениям для таких задач, как многошаговое рассуждение, запуск инструментов и веб-серфинг, а меньшая модель Bolt E4B 4GB ориентирована на разговорных агентов. Эти модели призваны поддерживать пользователей и организации, ориентированные на конфиденциальность, позволяя выполнять рабочие нагрузки ИИ без отправки данных в облако.

Nvidia подчеркивает открытый характер моделей, позволяя предприятиям дообучать Super VL на собственных данных и разворачивать модели в собственной инфраструктуре, что обеспечивает больший контроль, безопасность и конфиденциальность по сравнению с закрытыми проприетарными моделями ИИ. Эта стратегия соответствует более широкой тенденции в отрасли к настраиваемым развёртываниям ИИ в корпоративных дата-центрах.

Утверждается, что Super VL выполняет агентские задачи до пяти раз быстрее, чем конкурирующие модели от Anthropic и OpenAI. Nvidia указывает на партнёрства с такими компаниями, как Skydance, EY, Ramp, CrowdStrike, Perplexity и Salesforce, которые приняли или адаптировали Super VL для конкретных рабочих процессов.

Семейство Nemotron теперь включает недавно выпущенные модели Lightning и Ultra, охватывающие потребности в высокопропускной способности и продвинутом рассуждении, в то время как новые модели Super VL и Bolt расширяют линейку за счет эффективных решений для периферийных AI.

Все модели Nemotron 3.5 поддерживают мультимодальные входные данные, сочетая текст с визуальной информацией, такой как диаграммы, таблицы и документы, что позволяет сохранять контекст в сложных рабочих процессах без необходимости использования нескольких AI-систем. Модели имеют открытые веса, обучающие датасеты и рецепты доступны публично, что облегчает широкую настройку через инструментарий Nvidia NeMo.

Открытые модели доступны через платформы Hugging Face, Open Router и ModelScope, а также интегрируются с аппаратным стеком Nvidia, включая DGX Spark, DGX Station, системы GeForce RTX и Nvidia Jetson для периферийных приложений. Bolt 74B-A9B уже доступна, модель Bolt E4B запланирована к выпуску в конце месяца.

Nvidia стремится поддержать разнообразные сценарии развёртывания AI-агентов — от крупных корпоративных серверов до потребительских ПК — повышая и возможности, и доступность решений без компромиссов в контроле над данными и конфиденциальности пользователей.

Nemotron 3.5 Super VL, on Artificial Analysis Intelligence Index leadboard, achieves up to 5x faster throughput compared to other models in its class.
Nemotron 3.5 Super VL, on Artificial Analysis Intelligence Index leadboard, achieves up to 5x faster throughput compared to other models in its class. · Источник ↗
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models · Источник ↗
software for semiconductor design verification interoperates with the model.
software for semiconductor design verification interoperates with the model. · Источник ↗

Источники и первоисточники

Комментарии (0)

Комментариев пока нет. Начните обсуждение.

Написать комментарий

Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт