Amazon wprowadza TorchNeuron, aby rzucić wyzwanie dominacji Nvidia w sprzęcie AI dzięki wsparciu PyTorch

Image: TechCrunch · Source

Amazon Web Services wprowadził TorchNeuron, narzędzie deweloperskie umożliwiające bezproblemowe uruchamianie aplikacji AI opartych na PyTorch na własnym układzie Trainium, dążąc do zmniejszenia dominacji Nvidii w kompatybilności oprogramowania i sprzętu AI.

Amazon Web Services (AWS) zaprezentował TorchNeuron, narzędzie dla deweloperów zaprojektowane w celu uproszczenia wdrażania aplikacji AI opartych na PyTorch na autorskim układzie Trainium AI. Ten krok stanowi istotne strategiczne działanie Amazon, mające na celu przełamanie silnej pozycji Nvidii w sprzęcie AI, wspieranej przez kompatybilność oprogramowania CUDA Nvidii z PyTorch, wiodącym otwartoźródłowym frameworkiem AI.

PyTorch, pierwotnie rozwinięty przez Facebooka, a obecnie utrzymywany przez Linux Foundation, zasila około 85% aplikacji AI. Historycznie Nvidia zbudowała głęboką integrację z PyTorch poprzez platformę CUDA, tworząc ekosystem oprogramowania i sprzętu, który uczynił ją preferowanym wyborem dla deweloperów AI.

TorchNeuron pozwala programistom uruchamiać modele AI na Trainium poprzez zmianę tylko jednej linii konfiguracji w aplikacji PyTorch, bez konieczności przepisywania kodu. Ta łatwość użycia wykorzystuje znajomość PyTorch, ułatwiając płynne przejście dla deweloperów zainteresowanych adopcją sprzętu AI Amazona.

Poza zgodnością techniczną, Amazon podkreśla korzyści płynące z użycia Trainium w ekosystemie chmurowym AWS. AWS prezentuje się jako kompleksowa platforma wspierająca startupy AI od prototypu do produkcji, bez zależności od zewnętrznych dostawców obliczeń specjalistycznych. Według Colina Brace'a, wiceprezesa ds. oprogramowania technologicznego w AWS Annapurna Labs, to zintegrowane podejście pomaga startupom efektywnie skalować działania, jednocześnie kontrolując koszty.

AWS twierdzi, że Trainium obsługuje zarówno trening, jak i inferencję modeli AI, poprawiając ekonomię operacyjną w całym cyklu pracy AI. Na przykład dostawca aplikacji głosowych AI, Deepgram, podobno osiągnął 70% poprawę efektywności przetwarzania dźwięku na wydany dolar po migracji na Trainium.

Co więcej, Amazon nie ogranicza się wyłącznie do platformy Trainium. Firma aktywnie wnosi kod do głównego projektu PyTorch, usuwając wbudowane zależności skoncentrowane na Nvidia, z zamiarem uczynienia PyTorch bardziej niezależnym od konkretnego sprzętu. Ta inicjatywa ma na celu zapewnienie szerszej społeczności deweloperskiej większego wyboru i elastyczności przy wyborze sprzętu AI.

Choć może to zwiększyć konkurencję i obniżyć bariery dla alternatywnych dostawców chipów AI, pozostaje do zweryfikowania, czy takie zmiany nie wprowadzą dodatkowej złożoności lub czy przyniosą oczekiwane korzyści. Jeśli strategia Amazona się powiedzie, może to zakłócić długoletnią dominację Nvidii, tworząc otwarty ekosystem, który oddzieli rozwój oprogramowania AI od zablokowania na sprzęcie pojedynczego dostawcy.

Podsumowując, TorchNeuron Amazona oraz jego wkład w PyTorch stanowią odważną próbę dywersyfikacji opcji sprzętu AI i wzmocnienia deweloperów poprzez bardziej elastyczną i ekonomiczną infrastrukturę AI w chmurze.