Nvidia tutvustab uusi avatud kaalu mudeleid ettevõtetele ja kohalikeks AI-agentideks

Pilt: Nemotron 3.5 Super VL delivers frontier-level intelligence in its class for high-volume agentic workflows. · Allikas

Nvidia tutvustab Nemotron 3.5 Super VL ja Bolt mudeleid, avatud kaalu AI-agente, mis on loodud ettevõtete andmekeskustele ja kohalikele arvutitele, pakkudes kiirendatud ülesannete täitmist ning privaatsusele keskendunud lahendusi.

Nvidia on teatanud uute avatud kaalu AI-mudelite väljalaskmisest, mis on suunatud pidevalt töös olevate intelligentsete agentide võimaldamisele nii ettevõtete serverites kui ka kohalikes edge-seadmetes. Lipulaeva Nemotron 3.5 Super VL mudel sisaldab 120 miljardit parameetrit ning on optimeeritud ettevõtete jaoks, pakkudes tasakaalu efektiivsuse ja täpsuse vahel juhiste jälgimise ja tööriistade kasutamise ülesannetes. Kuigi tal on vähem parameetreid kui Nvidia suuremal Nemotron 3 Ultra mudelil, saavutab Super VL sarnase jõudluse valdkondades nagu dokumenditarkus, finantsarvestus, teaduskatsetused, meditsiini nõuete töötlemine ja küberturvalisuse vastupidavus.

Super VL-i täiendusena tutvustas Nvidia kahte kompaktsemat Bolt mudelit, mis on mõeldud kohapeal töötavate AI-agentide jaoks Nvidia jõudlusega PC-dele ja tööjaamadele, mis kasutavad RTX Spark kiipi ja DGX Spark süsteeme. Bolt 74B-A9B 24GB mudel pakub tasakaalu kiiruse ja mõtlemise vahel ülesannete puhul nagu mitmeastmeline põhjendamine, tööriistade kutsumine ja veebibrauseri kasutamine, samas kui väiksem Bolt E4B 4GB mudel on kohandatud vestlusagentidele. Need mudelid on loodud toetama privaatsust hindavaid kasutajaid ja organisatsioone, võimaldades AI töökoormusi töödelda ilma andmeid pilve saatmata.

Nvidia rõhutab mudelite avatud olemust, võimaldades ettevõtetel Super VL-i oma andmetel järeltreeninguks kasutada ja mudeleid oma infosüsteemides juurutada, mis annab suurema kontrolli, turvalisuse ja privaatsuse võrreldes suletud ja patenteeritud AI-mudelitega. See strateegia on kooskõlas tööstuse laiemate trendidega, mis soosivad kohandatavaid AI-lahendusi ettevõtete andmekeskustes.

Tulemuste väitel lõpetab Super VL agentülesanded kuni viis korda kiiremini kui konkurendid Anthropic ja OpenAI, ning Nvidia toob näidetena välja partnerlussuhted selliste tööstuse mängijatega nagu Skydance, EY, Ramp, CrowdStrike, Perplexity ja Salesforce, kes on Super VL-i omaks võtnud või kohandanud konkreetsete töövoogude jaoks.

Nemotron perekond sisaldab nüüd hiljuti välja antud Lightning ja Ultra mudeleid, mis katavad suure läbilaskevõime ja arenenud mõtlemise vajadused, samas kui uued Super VL ja Bolt mudelid laiendavad valikut efektiivsetele, edge-kesksetele AI-lahendustele.

Kõik Nemotron 3.5 mudelid toetavad multimodaalseid sisendeid, mõistes teksti koos visuaalse infoga nagu diagrammid, tabelid ja dokumendid, võimaldades konteksti säilitamist keerukates töövoogudes ilma vajaduseta mitme AI-süsteemi järele. Mudelid on avatud kaaludega, treeningandmeid ja retsepte on avalikult kättesaadav, mis soodustab laialdast kohandamist Nvidia NeMo tööriistakomplekti kaudu.

Avatud mudeleid saab kasutada platvormide kaudu nagu Hugging Face, Open Router ja ModelScope ning need integreeruvad Nvidia riistvarapakettidega, sealhulgas DGX Spark, DGX Station, GeForce RTX süsteemide ja Nvidia Jetsoniga edge-rakendustes. Bolt 74B-A9B on juba saadaval, Bolt E4B turuletoomine on plaanitud selle kuu lõppu.

Nvidia eesmärk on toetada mitmekesist AI-agentide juurutust, alates suurtest ettevõtete serveritest kuni tarbijateni mõeldud arvutiteni, parandades nii võimekust kui ka kasutusvõimalusi ilma andmete kontrolli või kasutajate privaatsust ohustamata.