Google lanserar TorchTPU för att utmana Nvidias dominans inom AI-apputveckling

Bild: TechCrunch · Källa

Google släpper TorchTPU, en öppen källkodsversion av PyTorch som gör det enkelt för AI-utvecklare att köra appar på Googles TPU-chip, i likhet med Amazons initiativ för att minska Nvidias hårdvaruinflytande.

Google har lanserat TorchTPU, en öppen källkodsversion av den populära AI-utvecklingsramen PyTorch anpassad för att köras på företagets egna Tensor Processing Units (TPU:er). Denna lansering markerar Googles strategiska satsning på att erbjuda AI-apputvecklare en enkel väg bort från de dominerande Nvidia-GPU:erna som idag driver majoriteten av AI-applikationer. PyTorch, som ursprungligen utvecklades av Meta 2016 och nu förvaltas under Linux Foundation, används i stor utsträckning – och driver uppskattningsvis 85 % av AI-applikationerna. Dock är dess kärnfunktioner främst designade med Nvidias GPU:er i åtanke, vilket har bidragit till Nvidias starka position inom AI-hårdvara.

TorchTPU gör det möjligt för utvecklare att migrera befintliga PyTorch-applikationer till Googles TPU:er och molnplattform med minimal ansträngning och utan behov av att skriva om koden, enbart genom konfigurationsändringar. Tillgängligheten förstärks av Googles samarbete med framstående AI-företag och ramverk som Meta, Hugging Face, Inferact och RadixArk för att säkerställa kompatibilitet och lika bra prestanda.

Parallellt med TorchTPU har Google också släppt TPU agent suite, en uppsättning verktyg som hjälper utvecklare att migrera och felsöka AI-applikationer på Googles infrastruktur. Dessutom syftar Googles uppdatering av verktyget LiteRT till att bättre stödja AI-arbetslaster på en rad enheter inklusive telefoner och inbäddade system, vilket ytterligare vidgar tillgängligheten för TPU:er.

Initiativet följer på ett liknande tillkännagivande från Amazon, som lanserade TorchNeuron, en anpassning av PyTorch för deras egna AI-chip Trainium. Amazon bidrar också med kod till huvudprojektet PyTorch för att lossa på beroendet av Nvidia-specifik hårdvara och skapa ett mer hårdvaruoberoende ekosystem.

Även om dessa satsningar från Google och Amazon inte innebär ett omedelbart avsteg från Nvidias hårdvara bland AI-utvecklare, representerar de viktiga steg för att diversifiera AI-hårdvaruekosystemet. Genom att underlätta enklare plattformsoberoende utveckling och molnmigrering vill båda företagen försvaga Nvidias starka position och bredda utbudet för AI-appskapare.