Google lanserer TorchTPU for å utfordre Nvidias dominans i AI-apputvikling

Bilde: TechCrunch · Kilde

Google slipper TorchTPU, en åpen kildekodeversjon av PyTorch som gjør det enkelt for AI-utviklere å kjøre apper på Googles TPU-brikker, i likhet med Amazons innsats for å redusere Nvidias maskinvaredominans.

Google har introdusert TorchTPU, en åpen kildekodeversjon av den populære AI-utviklingsrammeverket PyTorch tilpasset for å kjøre på deres egne Tensor Processing Units (TPU-er). Denne lanseringen markerer Googles strategiske grep for å tilby AI-apputviklere en enkel vei bort fra de dominerende Nvidia-GPUene som i dag driver de fleste AI-applikasjoner. PyTorch, opprinnelig utviklet av Meta i 2016 og nå administrert under Linux Foundation, er mye brukt og driver anslagsvis 85 % av AI-applikasjonene. Likevel er kjernen i PyTorch hovedsakelig designet med Nvidias GPU-er i tankene, noe som har bidratt til Nvidias ledende posisjon i AI-maskinvare.

TorchTPU gjør det mulig for utviklere å migrere eksisterende PyTorch-applikasjoner til Googles TPU-er og skyplattform med minimal innsats og uten behov for å skrive om kode, kun gjennom konfigurasjonsendringer. Denne tilgjengeligheten forsterkes av Googles samarbeid med fremtredende AI-selskaper og rammeverk som Meta, Hugging Face, Inferact og RadixArk for å sikre kompatibilitet og ytelseslikhet.

I tillegg til TorchTPU har Google også lansert TPU agent suite, et sett med verktøy som hjelper utviklere med migrasjon og feilsøking av AI-applikasjoner på Googles infrastruktur. Videre har Google oppdatert sitt LiteRT-verktøy for bedre å støtte AI-arbeidsbelastninger på en rekke enheter, inkludert mobiltelefoner og innebygde systemer, noe som ytterligere øker tilgjengeligheten til TPU-er.

Dette initiativet kommer etter et lignende kunngjøring fra Amazon, som lanserte TorchNeuron, en tilpasning av PyTorch for sine egne AI-brikker Trainium. Amazon bidrar også med kode til hovedprosjektet PyTorch for å løsrive det fra Nvidia-spesifikk maskinvareavhengighet, og fremmer et mer maskinvareagnostisk økosystem.

Selv om disse initiativene fra Google og Amazon ikke indikerer et umiddelbart skifte vekk fra Nvidias maskinvare blant AI-utviklere, representerer de betydelige forsøk på å diversifisere AI-maskinvareøkosystemet. Ved å legge til rette for enklere utvikling på tvers av plattformer og sky-migrering, søker begge selskapene å svekke Nvidias sterke posisjon og utvide valgmulighetene for AI-apputviklere.