Google Cloud i NVIDIA uruchamiają instancje A5X oparte na architekturze Vera Rubin do skalowalnego treningu i inferencji AI

Image: NVIDIA · Source

Google Cloud i NVIDIA ogłaszają wkrótce dostępność ogólną instancji A5X opartych na infrastrukturze NVIDIA Vera Rubin, oferujących zintegrowane, wysokowydajne obliczenia do treningu, inferencji i uczenia ze wzmocnieniem z zaawansowanym chłodzeniem ciekłym oraz wsparciem bezpiecznych agentów AI.

Google Cloud i NVIDIA wspólnie ogłosiły niebawem nadchodzącą dostępność ogólną instancji chmurowych A5X zasilanych architekturą NVIDIA Vera Rubin NVL72, zaprojektowanych do transformacji obciążeń AI na dużą skalę. Planowany na przyszły miesiąc debiut tych instancji A5X łączy GPU NVIDIA Vera Rubin, karty sieciowe ConnectX-9 SuperNIC do szybkiego przesyłu danych, sieć Virgo firmy Google Cloud oraz zaawansowany, czwartej generacji system chłodzenia ciekłym medium. Ta infrastruktura została stworzona, aby sprostać wymaganiom inferencji agentowych, uczenia ze wzmocnieniem oraz treningu AI na niespotykaną dotąd skalę i efektywność.

Platforma oparta na architekturze Vera Rubin będzie początkowo dostępna w wybranych regionach, z planowanym rozszerzeniem na Europę, z celem skalowania do 960 000 układów Rubin GPU w wielu centrach danych. Ineffable Intelligence, firma z Londynu założona przez twórcę AlphaGo Davida Silvera, jest pierwszym użytkownikiem, wykorzystującym instancje A5X do opracowania ciągle uczących się systemów AI klasy „superlearner”. Systemy te wymagają ogromnych zasobów obliczeniowych do generowania doświadczeń, oceniania wyników i iteracyjnej aktualizacji modeli, co jest wspierane kompleksowo przez zintegrowaną infrastrukturę obliczeniową, sieciową oraz pamięci masowej.

Oprócz wysokiej wydajności obliczeniowej, instancje A5X integrują architekturę referencyjną NVIDIA OpenShell, która zapewnia zarządzanie, izolację i bezpieczeństwo dla agentów AI. WPP, globalna firma marketingowa, zaprezentowała na tej platformie kreatywne procesy pracy, zarządzające zapytaniami konwersacyjnymi AI poprzez wieloetapową generację i edycję wideo, wykorzystując modele NVIDIA Nemotron w izolowanym środowisku OpenShell chroniącym wrażliwe zasoby. Taka bezpieczna egzekucja jest istotna dla przedsiębiorstw wdrażających autorskie modele i dane w współdzielonych infrastrukturach chmurowych.

Google Cloud rozwija również możliwości confidential computing wspólnie z ofertami NVIDIA Confidential Computing na instancjach bare metal A4X Max oraz maszynach wirtualnych G4 wyposażonych w GPU RTX PRO 6000 Blackwell. Technologia ta pozwala klientom uruchamiać obciążenia AI z podwyższoną prywatnością i bezpieczeństwem danych, wspierając poufną inferencję i dostrajanie modeli.

Uzupełniając te rozwiązania, NVIDIA i Google Cloud wspólnie badają oprogramowanie NVIDIA DSX MaxLPS w celu optymalizacji efektywności energetycznej i maksymalizacji przepustowości AI w ramach ograniczeń energetycznych centrów danych. Działania te wpisują się w szersze inicjatywy umożliwiające zrównoważone działanie fabryk AI, oszczędzające energię i wodę dzięki innowacyjnym rozwiązaniom chłodzenia.

Wspólnie wprowadzenie infrastruktury NVIDIA Vera Rubin w instancjach Google Cloud A5X tworzy kompleksową, wysokowydajną i bezpieczną platformę dla organizacji, które przesuwają granice treningu AI, inferencji oraz uczenia agentowego na skalę przemysłową.