Google Cloud przedstawia zaawansowane benchmarki szkoleniowe AI z siódmą generacją Ironwood TPU

Image: Google · Source
Google Cloud prezentuje nowe wyniki MLPerf Training v6.1 ze siódmą generacją Ironwood TPU oraz procesorami graficznymi NVIDIA Grace Blackwell, demonstrując wiodące prędkości i efektywność szkolenia AI na najnowocześniejszych benchmarkach pre-treningu i agentowego uczenia ze wzmocnieniem.
Google Cloud opublikował nowe benchmarki wydajności szkolenia AI w ramach rundy MLPerf Training v6.1, podkreślając znaczne postępy dzięki zastosowaniu siódmej generacji Tensor Processing Units (TPU) o nazwie Ironwood oraz procesorów graficznych NVIDIA Grace Blackwell. Wyniki te pokazują ciągłe inwestycje Google w współprojektowane układy scalone, sieci oraz otwartą infrastrukturę oprogramowania w architekturze AI Hypercomputer.
Wśród kluczowych osiągnięć, 8 192 jednostek Ironwood TPU ukończyło pre-trening na dużym modelu uczenia maszynowego w zaledwie 1,70 minuty, skalując się efektywnie do 4 096 chipów przy utrzymanej efektywności 96%. Ten szybki czas szkolenia stanowi ważny krok naprzód w skracaniu cykli rozwoju AI dla modeli o dużej skali.
Ponadto architektura Ironwood wykazała swoje możliwości na nowym benchmarku agentowego uczenia ze wzmocnieniem (RL) — pierwszym tego typu konkursie MLPerf. Wykorzystując 640 jednostek Ironwood TPU, system osiągnął cel dokładności kodowania agentowego RL w 18,02 minuty, przekraczając docelowy wynik benchmarku 0,69 wynikiem 0,765. Konfiguracja szkoleniowa również zoptymalizowała wykorzystanie chipów, zapewniając, że sprzęt pozostawał bezczynny mniej niż 3% czasu podczas jednoczesnych zadań generowania kodu i uczenia.
Obok TPU, Google Cloud zgłosił także wyniki z użyciem procesorów graficznych NVIDIA Grace Blackwell w instancjach A4X Max. Klaster 256 procesorów NVIDIA GB300 ukończył benchmark pre-treningu w 31,96 minuty, a kolejne zgłoszenia dotyczyły benchmarku agentowego RL.
Te benchmarki odzwierciedlają synergiczne działanie niestandardowego sprzętu i stosu oprogramowania Google, przesuwając granice szybkości i efektywności szkolenia AI. Szczegółowe wyniki podkreślają korzyści płynące z ściśle zintegrowanej infrastruktury AI w chmurze dostosowanej do dużych i złożonych obciążeń modeli.
Pełne szczegóły techniczne i dalsze wyniki rundy MLPerf Training v6.1 dostępne są na oficjalnym blogu Google Cloud.
Źródła i oryginalne doniesienia
Read the original source ↗

Komentarze (0)
Nie ma jeszcze komentarzy.
Napisz komentarz
Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto