Google julkaisee kaksi uutta erikoistettua TPU:ta tekoälykuormitusten tehostamiseksi

Kuva: TPU 8tx and TPU 8i Max · Lähde

Google laajentaa kahdeksannen sukupolven Tensor Processing Unit (TPU) -valikoimaansa esittelemällä TPU 8tx:n luottamukselliseen tekoälymallien koulutukseen ja TPU 8i Maxin suuremmalla muistilla, vastaten tekoälysovellusten turvallisuus- ja kontekstikykytarpeisiin.

Google on ilmoittanut kahdesta uudesta lisäyksestä kahdeksannen sukupolven Tensor Processing Unit (TPU) -portfoliossaan parantaen kykyjään erilaisten tekoälykuormitusten tarpeisiin. TPU 8tx ja TPU 8i Max tuovat esiin erikoistuneita laitteisto-ominaisuuksia, jotka keskittyvät turvalliseen mallin koulutukseen ja suurempaan muistimäärään.

TPU 8tx, joka on kehitetty yhteistyössä AMD:n kanssa, perustuu TPU 8t -sirulle ja on suunniteltu luottamukselliseen päättelyyn ja koulutukseen. Tämä siru sisältää laitteistotason turvallisuusominaisuuksia, jotka suojaavat arkaluonteisia tietoja ja mallipainoja niiden ollessa aktiivisessa käytössä, mikä on kriittisen tärkeää säädellyille yrityksille ja valtion toimijoille, jotka käsittelevät suojattua tai salassa pidettävää tietoa. Sirun rakenne mahdollistaa samanaikaisen päättelyn ja koulutuksen, jolloin organisaatiot voivat hienosäätää malleja yksityisillä tiedoilla siirtämättä niitä laitteiden välillä, mikä lisää tietosuojan tasoa ja toiminnan tehokkuutta.

Toisaalta TPU 8i Max ratkaisee tekoälykuormitusten haasteita, jotka vaativat valtavia kontekstikehyksiä. Yhdistämällä kaksi TPU 8i päättelyyn keskittyvää sirua yhdeksi paketiksi TPU 8i Max kaksinkertaistaa muistikapasiteetin, prosessointitehon ja kaistanleveyden. Tämä rakenne sallii tekoälymallien käsitellä laajempia tietojoukkoja ja monimutkaisempia pyyntöjä tehokkaasti tarjoten samalla korkeimman laskentatiheyden hyllyä kohden, mahdollistaen datakeskusten lisätä laskentatehoa ilman lisätilantarvetta.

Googlen TPU-valikoimaan kuuluu nyt neljä järjestelmää eri tekoälyn kehitysvaiheisiin: TPU 8t laajamittaiseen koulutukseen, TPU 8i matalaan viiveeseen päättelyyn, TPU 8tx turvalliseen laskentaan ja TPU 8i Max laajaan kontekstinhallintaan. Tämä laajennettu valikoima heijastaa Googlen lähestymistapaa rakentaa modulaarista, suorituskykyistä tekoälylaitteistoa, joka on integroitu joustavaan järjestelmäsuunnitteluun sisältäen nopean verkkoyhteyden, muistin ja turvallisuuskomponentit.

Helpottaakseen laajempaa kehittäjäyhteisön käyttöönottoa Google on parantanut TPU:iden saatavuutta. Viimeisimmät kehitysaskeleet sisältävät natiivin tuen suosituille kehyksille kuten PyTorch ja Hugging Face, avoimen lähdekoodin ohjelmistotyökalujen julkaisun helpompaa laitteiston integrointia varten sekä suorituskyvyn optimointia, joka tarjoaa huippuluokan tuloksia testistöissä, jotka simuloivat todellisia tekoälykuormia.

Nämä edistysaskeleet tapahtuvat kasvavassa ilmiössä, jossa suuret teknologiayritykset ja tekoälytutkimuslaboratoriot kehittävät erikoistuneita tekoälysiruja vähentääkseen riippuvuutta perinteisistä GPU-toimittajista. Google korostaa, että nämä uudet TPU-järjestelmät eivät ainoastaan tue tutkimus- ja kaupallisia tekoälyprojekteja, vaan myös edistävät ketterää laitteisto- ja ohjelmistoekosysteemiä, joka on suunniteltu muuttuviin tekoälytarpeisiin.

Lisätietoja näistä TPU-järjestelmistä Google on tarjonnut teknisiä resursseja ja lähetyksen, jossa selitetään niiden arkkitehtuuri ja ominaisuudet Google Cloud -alustalla.