„Google“ pristato du naujus specializuotus TPU, skirtus patobulinti dirbtinio intelekto užduotis

Vaizdas: TPU 8tx and TPU 8i Max · Šaltinis

„Google“ papildo aštuntos kartos Tensor procesorių vienetų (TPU) asortimentą su TPU 8tx, skirtu konfidencialiam dirbtinio intelekto modelių mokymui, ir TPU 8i Max, pasižyminčiu padidinta atminties talpa, atsižvelgiant į saugumo ir kontekstinio lango poreikius DI programose.

„Google“ paskelbė apie du naujus papildoimus savo aštuntos kartos Tensor procesoriaus vienetų (TPU) portfelyje, gerinančius galimybes sprendžiant įvairius dirbtinio intelekto darbo krūvius. TPU 8tx ir TPU 8i Max pristato specializuotas aparatinės įrangos savybes, orientuotas atitinkamai į saugų modelių mokymą ir didesnę atminties talpą.

TPU 8tx, sukurtas bendradarbiaujant su AMD, yra pagrįstas TPU 8t mikroschema ir pritaikytas konfidencialiam spėjimui ir mokymui. Šis lustas turi aparatinio lygio saugumą, kuris apsaugo jautrius duomenis ir modelio svorius net ir aktyviai naudojant – tai svarbi funkcija reguliuojamoms įmonėms ir vyriausybinėms institucijoms, dirbančioms su konfidencialia ar klasifikuota informacija. Lustas leidžia vienu metu vykdyti spėjimus ir mokymą, leisdamas organizacijoms tobulinti modelius naudojant privačius duomenis be jų perdavimo tarp įrenginių, taip gerinant duomenų privatumą ir operatyvumą.

Priešingai, TPU 8i Max sprendžia iššūkius, susijusius su dirbtinio intelekto darbo krūviais, reikalaujančiais didžiulių kontekstinių langų. Sujungus dvi TPU 8i mikroschemas, skirtas spėjimams, į vieną paketą, TPU 8i Max padvigubina atminties talpą, apdorojimo galią ir pralaidumą. Šis dizainas leidžia DI modeliams efektyviau apdoroti didesnius duomenų rinkinius ir sudėtingesnes užklausas, taip pat užtikrina aukščiausią kompiuterinę tankį vienam tinkleliui, kas leidžia duomenų centrams padidinti skaičiavimo galią nepridedant papildomos fizinės erdvės.

„Google“ TPU portfelis dabar apima keturias sistemas, skirtas skirtingiems DI vystymo etapams: TPU 8t – didelio masto mokymui, TPU 8i – mažo delsos sprendimams, TPU 8tx – saugiam skaičiavimui ir TPU 8i Max – plačiam kontekstų valdymui. Šis išplėstas asortimentas atspindi „Google“ požiūrį į modulinę, didelės spartos DI aparatinę įrangą, integruotą su lanksčiu sistemos dizainu, įskaitant spartų tinklą, atmintį ir saugumo komponentus.

Siekiant palengvinti plačią kūrėjų priėmimą, „Google“ pagerino TPU prieinamumą. Neseniai įvyko natūrali populiarių karkasų, tokių kaip PyTorch ir Hugging Face, palaikymo integracija, atvirojo kodo programinės įrangos įrankių išleidimas lengvesnei aparatinės įrangos integracijai ir našumo optimizavimas, leidęs pasiekti pažangius rezultatus etaloniniuose testuose, simuliuojančiuose realius DI darbo krūvius.

Šie patobulinimai įvyksta augant tendencijai, kai pagrindinės technologijų kompanijos ir DI tyrimų laboratorijos kuria specializuotus DI lustus, siekdamos sumažinti priklausomybę nuo tradicinių GPU tiekėjų. „Google“ pabrėžia, kad šios naujos TPU sistemos ne tik suteikia jėgų tyrimų ir komerciniams DI projektams, bet ir prisideda prie lankstaus aparatūros ir programinės įrangos ekosistemos, skirtos kintančiam DI poreikiams.

Daugiau informacijos apie šias TPU sistemas „Google“ pateikė techninius išteklius ir transliaciją, kurioje paaiškinama jų architektūra ir galimybės „Google Cloud“ platformoje.