Google Cloud und NVIDIA starten Vera Rubin-basierte A5X-Instanzen für skalierbares KI-Training und -Inference

Image: NVIDIA · Source

Google Cloud und NVIDIA kündigen die bevorstehende allgemeine Verfügbarkeit von A5X-Instanzen basierend auf der NVIDIA Vera Rubin-Infrastruktur an, die integrierte Hochleistungs-Computinglösungen für Training, Inferenz und Verstärkendes Lernen mit fortschrittlicher Flüssigkeitskühlung und sicherer KI-Agenten-Unterstützung bieten.

Google Cloud und NVIDIA haben gemeinsam die bevorstehende allgemeine Verfügbarkeit der A5X-Cloud-Instanzen bekanntgegeben, die von NVIDIAs Vera Rubin NVL72-Architektur angetrieben werden und darauf ausgelegt sind, groß angelegte KI-Workloads zu transformieren. Die für den nächsten Monat geplante Veröffentlichung kombiniert NVIDIA Vera Rubin GPUs, ConnectX-9 SuperNICs für Hochgeschwindigkeitsnetzwerke, Googles Cloud Virgo Network Fabric und ein fortschrittliches Flüssigkeitskühlsystem der vierten Generation. Diese Infrastruktur wurde entwickelt, um die Anforderungen an agentische Inferenz, verstärkendes Lernen und KI-Training mit bisher unerreichter Skalierung und Effizienz zu erfüllen.

Die auf Vera Rubin basierende Plattform wird zunächst in ausgewählten Regionen verfügbar sein, mit geplanter Erweiterung nach Europa, und strebt eine Skalierung auf bis zu 960.000 Rubin GPUs in mehreren Rechenzentren an. Ineffable Intelligence, das in London ansässige Unternehmen, das von David Silver, dem Schöpfer von AlphaGo, gegründet wurde, ist der erste Anwender und nutzt die A5X-Instanzen, um kontinuierliche Lern-"Superlearner"-KI-Systeme zu entwickeln. Diese Systeme benötigen enorme Rechenressourcen, um Erfahrungen zu generieren, Ergebnisse zu bewerten und Modelle iterativ zu aktualisieren, ein Zyklus, der durch die integrierte Infrastruktur aus Computing, Netzwerken und Speicher durchgängig unterstützt wird.

Neben hoher Rechenleistung enthalten die A5X-Instanzen NVIDIAs OpenShell Reference Architecture, die Governance, Isolation und Sicherheit für KI-Agenten bietet. WPP, eine weltweit tätige Marketingfirma, hat kreative Workflows auf der Plattform demonstriert, die konversationelle KI-Anfragen über mehrstufige Videoerzeugung und -bearbeitung verwalten, wobei NVIDIA Nemotron-Modelle in der sandboxed Umgebung von OpenShell eingesetzt werden, um sensible Assets zu schützen. Solch eine sichere Ausführung ist für Unternehmen essenziell, die proprietäre Modelle und Daten in geteilten Cloud-Infrastrukturen bereitstellen.

Google Cloud erweitert außerdem seine vertraulichen Computing-Fähigkeiten mit NVIDIAs Confidential Computing-Angeboten auf Bare Metal A4X Max-Instanzen und G4-VMs mit RTX PRO 6000 Blackwell GPUs. Diese Technologie ermöglicht es Kunden, KI-Workloads mit verbesserter Datenprivatsphäre und -sicherheit auszuführen und unterstützt vertrauliche Inferenz- und Feinabstimmungsoperationen.

Ergänzend zu diesen Entwicklungen erforschen NVIDIA und Google Cloud gemeinsam die NVIDIA DSX MaxLPS-Softwarelösungen, um die Energieeffizienz zu optimieren und den KI-Durchsatz innerhalb der Leistungseinschränkungen von Rechenzentren zu maximieren. Diese Bemühungen stehen im Einklang mit größeren Initiativen zur Ermöglichung nachhaltiger KI-Fabriken, die Energie und Wasser durch innovative Kühllösungen einsparen.

Insgesamt stellt die Einführung der NVIDIA Vera Rubin-Infrastruktur in den A5X-Instanzen von Google Cloud eine umfassende, leistungsstarke und sichere Plattform für Organisationen dar, die an der Spitze des KI-Trainings, der Inferenz und des agentischen Lernens in großem Maßstab stehen.