Google Cloud avslører avanserte AI-treningsbenchmarks med syvende generasjons Ironwood TPUs

Bilde: Google · Kilde
Google Cloud presenterer nye MLPerf Training v6.1-resultater med syvende generasjons Ironwood TPUs og NVIDIA Grace Blackwell GPUs, og demonstrerer ledende AI-treningshastigheter og effektivitet på banebrytende fortrening og agentbaserte forsterkningslæringsbenchmarks.
Google Cloud har publisert nye ytelsesbenchmark for AI-trening som del av MLPerf Training v6.1-runden, og fremhever betydelige fremskritt med sin syvende generasjons Ironwood Tensor Processing Units (TPUs) og NVIDIA Grace Blackwell GPUs. Disse resultatene viser Googles fortsatte investering i samskapt silisium, nettverk og åpen programvareinfrastruktur innenfor deres AI Hypercomputer-arkitektur.
Blant hovedprestasjonene fullførte 8 192 Ironwood TPUs fortrening på en stor maskinlæringsmodell på bare 1,70 minutter, med effektiv skalering opp til 4 096 brikker og en vedvarende 96 % effektivitet. Denne raske treningstiden markerer en betydelig milepæl for å redusere AI-utviklingssykluser for storskala modeller.
I tillegg viste Ironwood-arkitekturen sine evner på en ny agentbasert forsterkningslæringsbenchmark – den første MLPerf-konkurransen av sitt slag. Ved bruk av 640 Ironwood TPUs nådde systemet målsetningen for agentbasert RL-kodepresisjon på 18,02 minutter, og overgikk benchmarkens målscore på 0,69 med et resultat på 0,765. Treningsoppsettet optimaliserte også brikkebruken, og sikret at maskinvaren var inaktiv mindre enn 3 % av tiden under samtidig kodegenerering og læringsoppgaver.
Sammen med TPUs leverte Google Cloud også resultater ved bruk av NVIDIA Grace Blackwell GPUs på sine A4X Max-instanser. En klynge på 256 NVIDIA GB300 GPUs fullførte fortreningsbenchmarken på 31,96 minutter, med ytterligere innsendinger rettet mot den agentbaserte RL-benchmarken.
Disse benchmarkene reflekterer synergien mellom Googles tilpassede maskinvare- og programvarestabel, og presser grensene for AI-treningshastighet og effektivitet. De detaljerte resultatene fremhever fordelene ved tett integrert sky-AI-infrastruktur skreddersydd for store og komplekse modellarbeidsbelastninger.
For full teknisk detaljering og flere resultater fra MLPerf Training v6.1-runden, tilbyr Google Clouds offisielle blogg omfattende dekning.
Kilder og originalrapportering
Les originalkilden ↗

Kommentarer (0)
Ingen kommentarer ennå. Start diskusjonen.
Skriv en kommentar
Kommentarer publiseres etter moderering. Ditt navn og kommentar vil være synlige offentlig. Konto