Databehandling

Google Cloud avslører avanserte AI-treningsbenchmarks med syvende generasjons Ironwood TPUs

Tendela Briefing ·
6 visninger · 0 Kommentarer
Google Cloud avslører avanserte AI-treningsbenchmarks med syvende generasjons Ironwood TPUs

Bilde: Google · Kilde

Google Cloud presenterer nye MLPerf Training v6.1-resultater med syvende generasjons Ironwood TPUs og NVIDIA Grace Blackwell GPUs, og demonstrerer ledende AI-treningshastigheter og effektivitet på banebrytende fortrening og agentbaserte forsterkningslæringsbenchmarks.

Google Cloud har publisert nye ytelsesbenchmark for AI-trening som del av MLPerf Training v6.1-runden, og fremhever betydelige fremskritt med sin syvende generasjons Ironwood Tensor Processing Units (TPUs) og NVIDIA Grace Blackwell GPUs. Disse resultatene viser Googles fortsatte investering i samskapt silisium, nettverk og åpen programvareinfrastruktur innenfor deres AI Hypercomputer-arkitektur.

Blant hovedprestasjonene fullførte 8 192 Ironwood TPUs fortrening på en stor maskinlæringsmodell på bare 1,70 minutter, med effektiv skalering opp til 4 096 brikker og en vedvarende 96 % effektivitet. Denne raske treningstiden markerer en betydelig milepæl for å redusere AI-utviklingssykluser for storskala modeller.

I tillegg viste Ironwood-arkitekturen sine evner på en ny agentbasert forsterkningslæringsbenchmark – den første MLPerf-konkurransen av sitt slag. Ved bruk av 640 Ironwood TPUs nådde systemet målsetningen for agentbasert RL-kodepresisjon på 18,02 minutter, og overgikk benchmarkens målscore på 0,69 med et resultat på 0,765. Treningsoppsettet optimaliserte også brikkebruken, og sikret at maskinvaren var inaktiv mindre enn 3 % av tiden under samtidig kodegenerering og læringsoppgaver.

Sammen med TPUs leverte Google Cloud også resultater ved bruk av NVIDIA Grace Blackwell GPUs på sine A4X Max-instanser. En klynge på 256 NVIDIA GB300 GPUs fullførte fortreningsbenchmarken på 31,96 minutter, med ytterligere innsendinger rettet mot den agentbaserte RL-benchmarken.

Disse benchmarkene reflekterer synergien mellom Googles tilpassede maskinvare- og programvarestabel, og presser grensene for AI-treningshastighet og effektivitet. De detaljerte resultatene fremhever fordelene ved tett integrert sky-AI-infrastruktur skreddersydd for store og komplekse modellarbeidsbelastninger.

For full teknisk detaljering og flere resultater fra MLPerf Training v6.1-runden, tilbyr Google Clouds offisielle blogg omfattende dekning.

Kilder og originalrapportering

Kommentarer (0)

Ingen kommentarer ennå. Start diskusjonen.

Skriv en kommentar

Kommentarer publiseres etter moderering. Ditt navn og kommentar vil være synlige offentlig. Konto