NVIDIA GPU:er driver OpenAI:s GPT-6 Astra Ultrafast för snabbare prestanda

Bild: NVIDIA · Källa

OpenAI:s GPT-6 Astra Ultrafast, påskyndad av NVIDIA Blackwell GPU:er, erbjuder upp till åtta gånger snabbare generering av token jämfört med standardläget och är nu tillgänglig via OpenAI API.

OpenAI:s GPT-6 Astra Ultrafast körs på NVIDIA Blackwell GPU:er och har integrerats i OpenAI API, tillgängligt för berättigade användare av ChatGPT Work och Codex. Genom att använda optimeringar för inferens och den avancerade NVIDIA Blackwell-arkitekturen levererar Ultrafast-läget token-genereringshastigheter upp till åtta gånger snabbare än Astra Standard. Denna förbättring syftar till att möjliggöra för utvecklare att bygga applikationer som kräver snabb språkmodellinferens med förbättrad effektivitet.