Google lanserer to nye spesialiserte TPUer for å forbedre AI-arbeidsbelastninger

Bilde: TPU 8tx and TPU 8i Max · Kilde

Google utvider sin åttende generasjons Tensor Processing Unit (TPU)-serie med TPU 8tx for konfidensiell AI-modelltrening og TPU 8i Max for økt minnekapasitet, og adresserer sikkerhets- og kontekstvindu-krav i AI-applikasjoner.

Google har annonsert to nye tillegg til sin åttende generasjons Tensor Processing Unit (TPU)-portefølje, som forbedrer kapasitetene på tvers av forskjellige AI-arbeidsbelastningsbehov. TPU 8tx og TPU 8i Max introduserer spesialiserte maskinvarefunksjoner som fokuserer på sikker modelltrening og større minnekapasitet, henholdsvis.

TPU 8tx, utviklet i samarbeid med AMD, bygger på TPU 8t-chippen og er skreddersydd for konfidensiell inferens og trening. Denne chipen inkluderer sikkerhet på maskinvare-nivå som beskytter sensitiv data og modellvekter selv under aktiv bruk, en kritisk funksjon for regulerte bedrifter og offentlige etater som håndterer proprietær eller klassifisert informasjon. Chip-ens design støtter samtidig inferens og trening, som gjør det mulig for organisasjoner å finjustere modeller på private data uten å overføre disse dataene mellom enheter, og dermed forbedre dataprivatliv og operasjonell effektivitet.

I kontrast adresserer TPU 8i Max utfordringer skapt av AI-arbeidsbelastninger som krever massive kontekstvinduer. Ved å kombinere to TPU 8i-inferens-fokuserte chipper i en enkelt pakke, dobler TPU 8i Max minnekapasitet, prosesseringskraft og båndbredde. Denne designen lar AI-modeller håndtere større datasett og komplekse spørsmål effektivt, samtidig som den gir høyest mulig beregningsdensitet per rack, noe som gjør datacentre i stand til å øke regnekraften uten ekstra fysisk plass.

Googles TPU-portefølje består nå av fire systemer for ulike stadier av AI-utvikling: TPU 8t for storskala trening, TPU 8i for lav latens-resonnering, TPU 8tx for sikker databehandling, og TPU 8i Max for omfattende kontekststyring. Denne utvidede serien reflekterer Googles tilnærming til å bygge modulær, høytytende AI-maskinvare integrert med fleksibel systemdesign, inkludert høyhastighetsnettverk, minne og sikkerhetskomponenter.

For å legge til rette for bredere adopsjon blant utviklere har Google forbedret TPU-tilgjengeligheten. Nyere utviklinger inkluderer innebygd støtte for populære rammeverk som PyTorch og Hugging Face, åpen kildekode av programvareverktøy for enklere maskinvareintegrasjon, samt ytelsesoptimaliseringer som leverer toppmoderne resultater på benchmarking som simulerer reelle AI-arbeidsbelastninger.

Disse fremskrittene skjer midt i en økende trend der store teknologiselskaper og AI-forskningslaboratorier utvikler spesialiserte AI-chipper for å redusere avhengigheten av tradisjonelle GPU-leverandører. Google understreker at disse nye TPU-systemene ikke bare styrker forskning og kommersielle AI-prosjekter, men også bidrar til et smidig maskinvare-programvare-økosystem designet for å møte utviklende AI-behov.

For mer informasjon om disse TPU-systemene har Google gitt tekniske ressurser og en direktesendt presentasjon som forklarer deres arkitektur og kapasitet på Google Cloud-plattformen.