NVIDIA-GPUs treiben OpenAIs GPT-6 Astra Ultrafast für schnellere Leistung an

Image: NVIDIA · Source

OpenAIs GPT-6 Astra Ultrafast, beschleunigt durch NVIDIA Blackwell GPUs, bietet bis zu achtmal schnellere Token-Generierung als der Standardmodus und ist jetzt über die OpenAI-API verfügbar.

OpenAIs GPT-6 Astra Ultrafast läuft auf NVIDIA Blackwell GPUs und wurde in die OpenAI-API integriert, die für berechtigte ChatGPT Work- und Codex-Nutzer zugänglich ist. Durch die Nutzung von Inferenzoptimierungen und der fortschrittlichen NVIDIA Blackwell Architektur liefert der Ultrafast-Modus Token-Generierungsgeschwindigkeiten von bis zu achtmal schneller als Astra Standard. Diese Verbesserung soll Entwicklern ermöglichen, Anwendungen zu erstellen, die eine schnelle Sprachmodell-Inferenz mit verbesserter Effizienz erfordern.