Google esitleb 2026. aastal nelja spetsialiseeritud TPU-d, sealhulgas turvalisi ja laia kontekstiga mudeleid

Pilt: Google · Allikas

Google laiendab oma kaheksanda põlvkonna TPU valikut TPU 8tx ja TPU 8i Max mudelitega, täiustades TPU 8t ja 8i, et tegeleda turvalise järeldamise ja suurte kontekstidega AI-agentide töökoormustega.

2026. aasta novembris teatas Google oma kaheksanda põlvkonna Tensor Processing Unit (TPU) portfelli olulise laienduse raames kahe uue süsteemi, TPU 8tx ja TPU 8i Max, tutvustamisest koos varem avaldatud TPU 8t ja TPU 8i mudelitega. See tähistab esimest korda, kui Google avaldab ühe aasta jooksul neli TPU varianti, mis peegeldab AI töökoormuste kasvavat keerukust ja vajadust spetsialiseeritud riistvara järele.

Algselt enne kümmet aastat tagasi loodud, et toetada Google'i sisemisi AI nõudmisi nagu kõnetuvastus ja keeletõlge, on TPU-d arenenud mitmesuguste rakenduste jaoks, sealhulgas Gemini AI mudelite treenimiseks ja juurutamiseks, agentsete töökoormuste haldamiseks ning pilveteenuste pakkumiseks kasvavale kliendibaasile, mis hõlmab ligi 100 organisatsiooni üle maailma.

TPU 8t on välja töötatud laiaulatuslikuks aluste AI mudelite koolitamiseks, keskendudes koolitussoorituse maksimeerimisele, mõõdetuna kasuliku intelligentsuse väljundi kohta vati kohta. TPU 8i variant on suunatud reaalajas järeldamise ülesannetele, käsitledes tõhusalt mälu kitsaskohti ja vähendades kiibikommunikatsiooni viivitusi.

Värskelt avaldatud TPU 8tx on suunatud turvalistele ja konfidentsiaalsetele AI järeldamisülesannetele, täites reguleeritud sektorite nagu ettevõtted ja valitsusasutused nõudeid. Kasutades sama kiipi nagu TPU 8t koos AMD EPYC CPU-dega, sisaldab TPU 8tx riistvaralist krüpteerimist, et kaitsta tundlikke andmeid ja mudeli parameetreid aktiivse kasutamise ajal, säilitades madala latentsuse spetsiaalse Boardfly võrgustiku kaudu. See süsteem toetab privaatset täpsustamist, distilleerimist ja tugevdusõpet ühel platvormil ilma andmete migratsioonita, täites rangeid turvanõudeid.

TPU 8i Max lahendab hiiglaslike kontekstivõimaluste vajaduse, mis on vajalikud agentse AI jaoks, mis põhjendab ulatuslike andmete, näiteks koodibaaside või video põhjal. Pakendades kaks TPU 8i kiipi kokku, kahekordistab see arvutusvõimsuse, SRAM-i ja kõrge läbilaskvusega mälu, võimaldades suuri töökoormusi käivitada ilma peatumisteta ja suurendades arvutusvõimsust riiuli jalajälje kohta.

Need neli süsteemi koos pakuvad eesmärgipäraseid kiirendajaid, mis on optimeeritud erinevatele AI elutsükli etappidele: TPU 8t mahutreeninguks, TPU 8i madala latentsusega mõtlemiseks, TPU 8tx konfidentsiaalseks arvutamiseks ja TPU 8i Max suurele kontekstile ning kõrgele arvutustihedusele.

Riistvara täiustamiseks on Google parandanud TPU ligipääsetavust, toetades populaarseid raamistikke nagu PyTorch avatud lähtekoodiga TorchTPU kaudu, võimaldades sujuvat juurutamist ja optimeerimist ilma koodi ümberkirjutamiseta. Täiendavad tööriistad nagu TPU agentide komplekt ja TPU Sync tarkvarakiht hõlbustavad suurt TPU klastrite automaatset kasutuselevõttu, mäluhaldust ja skaleerimist.

Google rõhutab kaasdisaini lähenemist koos Google DeepMindiga ja AI-põhiste arendusmeetodite kasutamist TPU riistvara ja süsteemide kiireks uuendamiseks. See integreeritud disainiprotsess kiirendab arendustsükleid ja valmistab infrastruktuuri ette agentse AI ning suurte keelemudelite kasvavate nõudmiste jaoks.

Lisainformatsiooni saamiseks pakub Google põhjalikku otseülekannet ja veebiallikaid, mis kirjeldavad nende TPU süsteemide spetsifikatsioone ja võimekust, eesmärgiga anda arendajatele ja ettevõtetele jõudu kasutada järgmise põlvkonna AI infrastruktuuri tõhusalt ja turvaliselt.