„Google“ 2026 m. pristato keturis specializuotus TPU, įskaitant saugius ir didelės apimties modelius

Vaizdas: Google · Šaltinis

„Google“ plečia savo aštuntos kartos TPU asortimentą su TPU 8tx ir TPU 8i Max papildydama TPU 8t ir 8i, siekdama patenkinti saugios išvados ir didelės apimties konteksto reikalavimus AI agentams.

2026 m. lapkritį „Google“ paskelbė apie reikšmingą savo aštuntos kartos Tensor Processing Unit (TPU) portfelio plėtrą pristatydama du naujus įrenginius – TPU 8tx ir TPU 8i Max – kartu su anksčiau išleistais TPU 8t ir TPU 8i. Tai pirmas kartas, kai „Google“ per vienerius metus išleido keturis TPU variantus, atspindintis didėjančią DI darbo krūvių sudėtingumą ir specializuotos aparatinės įrangos poreikį.

TPU iš pradžių buvo sukurtas prieš daugiau nei dešimtmetį siekiant palaikyti „Google“ vidinius DI poreikius, tokius kaip balso atpažinimas ir kalbos vertimas, tačiau nuo to laiko išsivystė ir įgauna pritaikymą įvairiose srityse, įskaitant treniravimą ir Gemini DI modelių diegimą, agentinius darbo krūvius ir debesijos paslaugų teikimą, kuris auga iki beveik 100 klientų visame pasaulyje.

TPU 8t skirtas didelio masto pamatinių DI modelių mokymui, orientuojantis į mokymo našumo maksimalizavimą, matuojamą kaip naudingos intelektinės produkcijos kiekis vienam vatui. TPU 8i variantas skirtas realaus laiko samprotavimui, efektyviai sprendžiant atminties spąstų problemas ir sumažinant tarp lustų komunikacijos vėlavimą.

Naujasis TPU 8tx skirtas saugiems ir konfidencialiems DI išvados darbo krūviams, tenkinant poreikius reguliuojamose srityse, tokiose kaip įmonės ir valstybinės agentūros. Naudodamas tą patį silicio lustą kaip TPU 8t kartu su AMD EPYC procesoriais, TPU 8tx įtraukia aparatinės įrangos lygio šifravimą, kad apsaugotų jautrius duomenis ir modelio parametrus aktyvaus naudojimo metu, išlaikant mažą delsą per specializuotą Boardfly tinklą. Ši sistema palaiko privačią modelio perdavimą, distiliaciją ir sustiprintą mokymą vienoje platformoje be duomenų perkėlimo, atitinkančią griežtus saugumo reikalavimus.

TPU 8i Max sprendžia milžiniškų konteksto langų iššūkį, būtiną agentiniam DI, kuris samprotauja per dideles duomenų apimtis, tokias kaip kodo bazės ar vaizdo įrašai. Susiejant du TPU 8i lustus kartu, jis dvigubina skaičiavimo galią, SRAM ir didelės pralaidumo atmintį, leidžiant dideliems darbo krūviams veikti be strigčių ir didinant skaičiavimo tankį vienam konteinerio vienetui.

Šios keturios sistemos kartu suteikia specialiai sukurtus akceleratorius, optimizuotus įvairiems DI gyvavimo ciklo etapams: TPU 8t - mastelio didinimui mokyme, TPU 8i - žemam delsos samprotavimui, TPU 8tx - konfidencialiam skaičiavimui ir TPU 8i Max - didelės apimties ir didelio tankio skaičiavimui.

Papildydama aparatinę įrangą, „Google“ pagerino TPU prieinamumą palaikydama populiarias sistemas, tokias kaip PyTorch per atvirojo kodo TorchTPU, leidžiančią sklandų diegimą ir optimizavimą be kodų pertvarkymų. Kitos priemonės, tokios kaip TPU agentų rinkinys ir TPU Sync programinės įrangos sluoksnis, palengvina automatizuotą įvedimą, atminties valdymą ir didelių TPU klasterių mastelio keitimą.

„Google“ pabrėžia bendro dizaino metodą su „Google DeepMind“ ir DI pagrįstus kūrimo metodus, siekiant greitai inovuoti TPU aparatinę įrangą ir sistemas. Šis integruotas dizaino procesas spartina kūrimo ciklus ir rengia infrastruktūrą didėjantiems agentinių DI ir didelių kalbos modelių poreikiams.

Daugiau informacijos „Google“ siūlo išsamius transliacijos ir internetinius išteklius, apimančius šių TPU sistemų specifikacijas ir galimybes, skirtus padėti kūrėjams ir įmonėms efektyviai ir saugiai išnaudoti naujos kartos DI infrastruktūrą.