NVIDIA Vera Rubini platvorm valitseb MLPerfi treening- ja lõpp-punktide võrdlustes

Pilt: NVIDIA · Allikas
NVIDIA uus Vera Rubini platvorm juhib kõikides kategooriates MLPerf Training v6.1 võrdlusi ning tagab üle 10-kordse tõhususe kasvu MLPerf Endpoints agent AI läbilaskevõimes vati kohta.
NVIDIA saavutas oma Vera Rubin platvormiga haarava võidu viimastes MLPerf võrdlustulemustes, tähistades tugevat debüüti nii treeningu kui ka inferentsi jõudlusnäitajates. Hiljuti avaldatud MLPerf Training v6.1 võrdlustes oli NVIDIA Vera Rubin süsteem ainus platvorm, mis esitas tulemused kõigi võrdluste kohta, hõlmates suuri keelemudeleid, pildigeneratsiooni, soovitussüsteeme ja tugevdusega õppimise järgselt saadud mudeleid. See pakkus kuni kaks korda suuremat jõudlust GPU kohta võrreldes tugevalt optimeeritud NVIDIA GB300 süsteemiga, rõhutades nende riist- ja tarkvara kiireid põlvkondlikke edusamme.
Vera Rubini skaleeritavus oli esiletõstetud, eriti DeepSeek-V3 võrdluses, kus süsteem säilitas umbes 97% skaleerimise efektiivsuse 256st kuni 1 024 GPUni välja, vähendades treeningaega 16 minutilt umbes nelja minutini. NVIDIA demonstreeris ka massiivset treeningskoori: GB300 süsteemid jooksutasid võrdlusi kasutades 10 240 GPUd, mis on selle vooru suurim ulatus, millega võrdväärne oli Microsoft Azure, kes kasutas GB200 süsteeme. See rõhutab efektiivse mitme GPU koordineerimise tähtsust, mida saavutatakse NVIDIA NVLink skaleeritava võrgustikuga süsteemides ning Quantum-X800 InfiniBandi ja Spectrum-X Etherneti skaleeritava väljavõrguga andmekeskustes.
NVIDIA jaoks esmakordselt MLPerf Endpointsis, mis on suunatud agentsetele AI inferentsikoormustele, pakkus Vera Rubin platvorm üle kümnekordse läbilaskevõime kasv vati kohta võrreldes eelkäijatega nagu GB300, säilitades vastuse latentsusajad. See on oluline, kuna agentne AI töö nõuab sageli mitmeastmelist mõtlemist ja korduvaid tööriistade kutseid, genereerides iga lõpetatud toimingu kohta palju tokeneid. Kõrgem tokenite genereerimine vati kohta tähendab, et andmekeskused saavad samaaegselt teenindada rohkem AI agente madalamate energiakuludega.
NVIDIA partnerite ökosüsteem mängis nende saavutuste juures tähtsat rolli, saates tulemusi 20 organisatsioonilt, sealhulgas Asus, Cisco, Dell Technologies, Google Cloud, HPE, Oracle, Supermicro ja teised. Need panused kajastavad NVIDIA CUDA-toega tarkvarapaketi mitmekülgsust ja optimeerimispotentsiaali koos uusima riistvara arhitektuuriga.
Lisaks MLPerfile juhib Vera Rubin ka sõltumatuid AI agendi võrdlusi nagu SemiAnalysis AgentX ja Artificial Analysis AgentPerf, kinnitades oma suutlikkust eeltreeningu, treeningujärgse ja agentse inferentsi koormuste across. Samuti toetab see kõrge jõudlusarvutuse nõudeid, nagu demonstreeriti hiljutisel SC26 konverentsil. NVIDIA märgib, et pidevad tarkvara optimeerimised parandavad veelgi Vera Rubini jõudlust, lubades pidevat väärtuse kasvu klientidele, kes sellesse infrastruktuuri investeerivad.
Detailsete tehniliste teadmiste saamiseks pakuvad NVIDIA MLPerf Training ja MLPerf Endpoints blogid põhjalikku analüüsi võrdluste saavutustest ja süsteemi konfiguratsioonidest. Vera Rubin platvorm kinnitab tugevalt NVIDIA juhtpositsiooni AI treeningu ja inferentsi kiirendamisel suurtes mõõtmetes, kombineerides energiatõhususe parimat taset koos võrreldamatu läbilaskevõime ja skaleeritavusega.


Allikad ja originaaluudised
Loe originaali allikat ↗

Kommentaarid (0)
Kommentaare veel pole. Alusta arutelu.
Kirjuta kommentaar
Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto