Google wprowadza TorchTPU, by rzucić wyzwanie dominacji Nvidii w rozwoju aplikacji AI

Image: TechCrunch · Source

Google udostępnia TorchTPU, otwartoźródłową adaptację PyTorch umożliwiającą deweloperom AI łatwe uruchamianie aplikacji na chipach TPU Google, dołączając do podobnych działań Amazon mających na celu ograniczenie dominacji sprzętowej Nvidii.

Google przedstawił TorchTPU, otwartoźródłową wersję popularnego frameworka do rozwoju AI PyTorch dostosowaną do działania na własnych jednostkach Tensor Processing Unit (TPU). To wydanie jest strategicznym posunięciem Google, mającym na celu zapewnienie deweloperom aplikacji AI prostego sposobu na odejście od dominujących kart graficznych Nvidia, które obecnie stanowią podstawę większości aplikacji AI. PyTorch, pierwotnie opracowany przez firmę Meta w 2016 roku i obecnie zarządzany przez Linux Foundation, jest szeroko stosowany — zasila około 85% aplikacji AI. Jednak jego kluczowe funkcje zostały zaprojektowane głównie z myślą o GPU Nvidii, co przyczyniło się do dominującej pozycji Nvidii w sprzęcie AI.

TorchTPU pozwala deweloperom migrować istniejące aplikacje PyTorch na TPU Google i platformę chmurową przy minimalnym wysiłku i bez konieczności przepisywania kodu, jedynie poprzez zmiany konfiguracji. Dostępność ta jest dodatkowo wspierana przez współpracę Google z uznanymi firmami AI i frameworkami, takimi jak Meta, Hugging Face, Inferact i RadixArk, mającą na celu zapewnienie kompatybilności i równoważnej wydajności.

Uzupełniając TorchTPU, Google wydał także pakiet narzędzi TPU agent, które wspomagają deweloperów w migracji i debugowaniu aplikacji AI na infrastrukturze Google. Ponadto aktualizacja narzędzia LiteRT ma na celu lepsze wsparcie obciążeń AI na różnych urządzeniach, w tym telefonach i systemach wbudowanych, co dodatkowo rozszerza dostępność TPU.

Ruch ten następuje po podobnym ogłoszeniu Amazona, który uruchomił TorchNeuron — adaptację PyTorch dla własnych chipów Trainium AI. Amazon dodatkowo wnosi swój kod do głównego projektu PyTorch, aby uniezależnić go od zależności sprzętowych specyficznych dla Nvidii, wspierając bardziej sprzętowo agnostyczny ekosystem.

Choć inicjatywy Google i Amazona nie oznaczają natychmiastowego odejścia deweloperów AI od sprzętu Nvidii, stanowią one ważne starania mające na celu dywersyfikację ekosystemu sprzętu AI. Ułatwiając rozwój międzyplatformowy i migrację do chmury, obie firmy dążą do osłabienia ugruntowanej pozycji Nvidii i poszerzenia wyboru dostępnego dla twórców aplikacji AI.