NVIDIA GPU suteikia jėgų OpenAI GPT-6 Astra Ultrafast greitesniam našumui

Vaizdas: NVIDIA · Šaltinis

OpenAI GPT-6 Astra Ultrafast, pagreitinamas NVIDIA Blackwell GPU, generuoja žetonus iki 8 kartų greičiau nei įprastas režimas ir dabar pasiekiamas per OpenAI API.

OpenAI GPT-6 Astra Ultrafast veikia NVIDIA Blackwell GPU pagrindu ir buvo integruotas į OpenAI API, kuris yra prieinamas tinkamiems ChatGPT Work ir Codex vartotojams. Pasitelkus išankstinius optimizavimus ir pažangią NVIDIA Blackwell architektūrą, Ultrafast režimas generuoja žetonus iki aštuonis kartus greičiau nei Astra Standard. Šis patobulinimas siekia leisti kūrėjams kurti programas, kurios reikalauja greito kalbų modelio apdorojimo, didinant efektyvumą.