Las GPU de NVIDIA impulsan GPT-6 Astra Ultrafast de OpenAI para un rendimiento más rápido

Image: NVIDIA · Source

GPT-6 Astra Ultrafast de OpenAI, acelerado por las GPU NVIDIA Blackwell, ofrece una generación de tokens hasta 8 veces más rápida que en modo estándar y ya está disponible a través de la API de OpenAI.

GPT-6 Astra Ultrafast de OpenAI se ejecuta en las GPU NVIDIA Blackwell y ha sido integrado en la API de OpenAI, accesible para los usuarios elegibles de ChatGPT Work y Codex. Aprovechando optimizaciones de inferencia y la avanzada arquitectura NVIDIA Blackwell, el modo Ultrafast proporciona velocidades de generación de tokens hasta ocho veces más rápidas que Astra Standard. Esta mejora busca permitir a los desarrolladores crear aplicaciones que requieran una inferencia rápida de modelos de lenguaje con mayor eficiencia.