Procesory graficzne NVIDIA napędzają GPT-6 Astra Ultrafast OpenAI dla szybszej wydajności

Image: NVIDIA · Source

GPT-6 Astra Ultrafast OpenAI, przyspieszony przez procesory NVIDIA Blackwell, oferuje nawet 8 razy szybsze generowanie tokenów niż tryb standardowy i jest już dostępny przez API OpenAI.

GPT-6 Astra Ultrafast OpenAI działa na procesorach NVIDIA Blackwell i został zintegrowany z API OpenAI, dostępnym dla uprawnionych użytkowników ChatGPT Work i Codex. Wykorzystując optymalizacje inferencyjne oraz zaawansowaną architekturę NVIDIA Blackwell, tryb Ultrafast zapewnia prędkość generowania tokenów do ośmiokrotnie wyższą niż Astra Standard. To ulepszenie ma na celu umożliwienie deweloperom tworzenia aplikacji wymagających szybkiego wnioskowania modelu językowego z większą efektywnością.