Google ievieš divus jaunus specializētus TPU, lai uzlabotu mākslīgā intelekta darba slodzes

Attēls: TPU 8tx and TPU 8i Max · Avots

Google paplašina savu astotās paaudzes Tensor Processing Unit (TPU) klāstu ar TPU 8tx konfidenciālas AI modeļu apmācības vajadzībām un TPU 8i Max ar palielinātu atmiņas ietilpību, risinot drošības un konteksta loga prasības AI lietojumos.

Google ir paziņojis par diviem jaunām pievienotām ierīcēm savā astotās paaudzes Tensor Processing Unit (TPU) portfelī, uzlabojot tā iespējas dažādām AI darba slodžu vajadzībām. TPU 8tx un TPU 8i Max ievieš specializētas aparatūras funkcijas, kas koncentrējas uz drošu modeļu apmācību un lielāku atmiņas ietilpību attiecīgi.

TPU 8tx, izstrādāts sadarbībā ar AMD, balstās uz TPU 8t mikroshēmu un ir pielāgots konfidenciālai inferencēšanai un apmācībai. Šī mikroshēma ietver aparatūras līmeņa drošību, kas aizsargā sensitīvus datus un modeļa svarus arī aktīvas lietošanas laikā, kas ir būtiska funkcija reglamentētām uzņēmumiem un valdības iestādēm, kas strādā ar patentētu vai klasificētu informāciju. Mikroshēmas dizains atbalsta vienlaicīgu inferencēšanu un apmācību, ļaujot organizācijām precizēt modeļus ar privātiem datiem, neizplūdinot datus starp ierīcēm, tādējādi uzlabojot datu privātumu un operatīvo efektivitāti.

Savukārt TPU 8i Max risina problēmas, ko rada AI darba slodzes ar milzīgiem konteksta logiem. Apvienojot divas TPU 8i inferencē vērstas mikroshēmas vienā iepakojumā, TPU 8i Max dubulto atmiņas ietilpību, apstrādes jaudu un joslas platumu. Šis dizains ļauj AI modeļiem efektīvi apstrādāt plašākus datu kopumus un sarežģītākus vaicājumus, nodrošinot augstāko aprēķinu blīvumu uz plaukta, ļaujot datu centriem palielināt skaitļošanas jaudu bez papildu fiziskās vietas.

Google TPU portfelī tagad ietilpst četri sistēmas varianti dažādiem AI attīstības posmiem: TPU 8t lielapjoma apmācībai, TPU 8i zema latentuma secinājumu izpildei, TPU 8tx drošai skaitļošanai un TPU 8i Max plašas konteksta pārvaldības nodrošināšanai. Šis paplašinātais klāsts atspoguļo Google pieeju modulārai, augstas veiktspējas AI aparatūrai, kas integrēta ar elastīgu sistēmu dizainu, ieskaitot ātrgaitas tīklu, atmiņu un drošības komponentus.

Lai veicinātu plašāku izstrādātāju pieņemšanu, Google ir uzlabojis TPU pieejamību. Nesenie sasniegumi ietver vietējo atbalstu populārām ietvarstruktūrām kā PyTorch un Hugging Face, programmatūras rīku atvēršanu vieglākai aparatūras integrācijai un veiktspējas optimizāciju, kas nodrošina progresīvus rezultātus AI darba slodžu simulācijās.

Šie sasniegumi notiek laikā, kad lielas tehnoloģiju kompānijas un AI pētniecības laboratorijas attīsta specializētas AI mikroshēmas, lai samazinātu atkarību no tradicionālajiem GPU piegādātājiem. Google uzsver, ka šīs jaunās TPU sistēmas ne tikai stiprina pētniecības un komerciālus AI projektus, bet arī veicina elastīgu aparatūras un programmatūras ekosistēmu, kas paredzēta mainīgo AI prasību apmierināšanai.

Plašāku informāciju par šīm TPU sistēmām Google nodrošina tehniskos resursus un tiešraidi, kas izskaidro to arhitektūru un iespējas Google Cloud platformā.