Arvutamine

NVIDIA Vera Rubini platvorm valitseb MLPerfi treening- ja lõpp-punktide võrdlustes

Tendela Briefing ·
5 vaatamist · 0 Kommentaarid
NVIDIA Vera Rubini platvorm valitseb MLPerfi treening- ja lõpp-punktide võrdlustes

Pilt: NVIDIA · Allikas

NVIDIA uus Vera Rubini platvorm juhib kõikides kategooriates MLPerf Training v6.1 võrdlusi ning tagab üle 10-kordse tõhususe kasvu MLPerf Endpoints agent AI läbilaskevõimes vati kohta.

NVIDIA saavutas oma Vera Rubin platvormiga haarava võidu viimastes MLPerf võrdlustulemustes, tähistades tugevat debüüti nii treeningu kui ka inferentsi jõudlusnäitajates. Hiljuti avaldatud MLPerf Training v6.1 võrdlustes oli NVIDIA Vera Rubin süsteem ainus platvorm, mis esitas tulemused kõigi võrdluste kohta, hõlmates suuri keelemudeleid, pildigeneratsiooni, soovitussüsteeme ja tugevdusega õppimise järgselt saadud mudeleid. See pakkus kuni kaks korda suuremat jõudlust GPU kohta võrreldes tugevalt optimeeritud NVIDIA GB300 süsteemiga, rõhutades nende riist- ja tarkvara kiireid põlvkondlikke edusamme.

Vera Rubini skaleeritavus oli esiletõstetud, eriti DeepSeek-V3 võrdluses, kus süsteem säilitas umbes 97% skaleerimise efektiivsuse 256st kuni 1 024 GPUni välja, vähendades treeningaega 16 minutilt umbes nelja minutini. NVIDIA demonstreeris ka massiivset treeningskoori: GB300 süsteemid jooksutasid võrdlusi kasutades 10 240 GPUd, mis on selle vooru suurim ulatus, millega võrdväärne oli Microsoft Azure, kes kasutas GB200 süsteeme. See rõhutab efektiivse mitme GPU koordineerimise tähtsust, mida saavutatakse NVIDIA NVLink skaleeritava võrgustikuga süsteemides ning Quantum-X800 InfiniBandi ja Spectrum-X Etherneti skaleeritava väljavõrguga andmekeskustes.

NVIDIA jaoks esmakordselt MLPerf Endpointsis, mis on suunatud agentsetele AI inferentsikoormustele, pakkus Vera Rubin platvorm üle kümnekordse läbilaskevõime kasv vati kohta võrreldes eelkäijatega nagu GB300, säilitades vastuse latentsusajad. See on oluline, kuna agentne AI töö nõuab sageli mitmeastmelist mõtlemist ja korduvaid tööriistade kutseid, genereerides iga lõpetatud toimingu kohta palju tokeneid. Kõrgem tokenite genereerimine vati kohta tähendab, et andmekeskused saavad samaaegselt teenindada rohkem AI agente madalamate energiakuludega.

NVIDIA partnerite ökosüsteem mängis nende saavutuste juures tähtsat rolli, saates tulemusi 20 organisatsioonilt, sealhulgas Asus, Cisco, Dell Technologies, Google Cloud, HPE, Oracle, Supermicro ja teised. Need panused kajastavad NVIDIA CUDA-toega tarkvarapaketi mitmekülgsust ja optimeerimispotentsiaali koos uusima riistvara arhitektuuriga.

Lisaks MLPerfile juhib Vera Rubin ka sõltumatuid AI agendi võrdlusi nagu SemiAnalysis AgentX ja Artificial Analysis AgentPerf, kinnitades oma suutlikkust eeltreeningu, treeningujärgse ja agentse inferentsi koormuste across. Samuti toetab see kõrge jõudlusarvutuse nõudeid, nagu demonstreeriti hiljutisel SC26 konverentsil. NVIDIA märgib, et pidevad tarkvara optimeerimised parandavad veelgi Vera Rubini jõudlust, lubades pidevat väärtuse kasvu klientidele, kes sellesse infrastruktuuri investeerivad.

Detailsete tehniliste teadmiste saamiseks pakuvad NVIDIA MLPerf Training ja MLPerf Endpoints blogid põhjalikku analüüsi võrdluste saavutustest ja süsteemi konfiguratsioonidest. Vera Rubin platvorm kinnitab tugevalt NVIDIA juhtpositsiooni AI treeningu ja inferentsi kiirendamisel suurtes mõõtmetes, kombineerides energiatõhususe parimat taset koos võrreldamatu läbilaskevõime ja skaleeritavusega.

MLPerfTraining v6.1 results retrieved from www.mlcommons.org on Nov 16, 2026, from the following entries: 6.1-0116 , 6.1-0030, 6.1-0135, 6.1-0020, 6.1-0049, 6.1-0123, 6.1-0138, 6.1-0073, 6.1-0124, 6.1-0129 and 6.1-0038. The MLPerf name and logo are t
MLPerfTraining v6.1 results retrieved from www.mlcommons.org on Nov 16, 2026, from the following entries: 6.1-0116 , 6.1-0030, 6.1-0135, 6.1-0020, 6.1-0049, 6.1-0123, 6.1-0138, 6.1-0073, 6.1-0124, 6.1-0129 and 6.1-0038. The MLPerf name and logo are t · Allikas ↗
MLPerf® Endpoints v1.0, Kimi K3, Standardized division, Available category, published November 9, 2026. NVIDIA Vera Rubin NVL72, 32 accelerators, result 1.0.1.kimi-k3.agentic_combined.1p, run 9: concurrency = 1,024 queries, TTFT P90 = 4,673.9 ms, sys
MLPerf® Endpoints v1.0, Kimi K3, Standardized division, Available category, published November 9, 2026. NVIDIA Vera Rubin NVL72, 32 accelerators, result 1.0.1.kimi-k3.agentic_combined.1p, run 9: concurrency = 1,024 queries, TTFT P90 = 4,673.9 ms, sys · Allikas ↗

Allikad ja originaaluudised

Kommentaarid (0)

Kommentaare veel pole. Alusta arutelu.

Kirjuta kommentaar

Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto