Графические процессоры NVIDIA обеспечивают ultrafast-режим GPT-6 Astra OpenAI для более быстрой работы

Image: NVIDIA · Source

GPT-6 Astra Ultrafast от OpenAI, ускоренный графическими процессорами NVIDIA Blackwell, предлагает генерацию токенов в 8 раз быстрее стандартного режима и теперь доступен через OpenAI API.

GPT-6 Astra Ultrafast от OpenAI работает на графических процессорах NVIDIA Blackwell и интегрирован в OpenAI API, доступный для избирательных пользователей ChatGPT Work и Codex. Используя оптимизации инференса и передовую архитектуру NVIDIA Blackwell, режим Ultrafast обеспечивает скорость генерации токенов до восьми раз выше, чем у Astra Standard. Это улучшение направлено на то, чтобы позволить разработчикам создавать приложения, требующие быстрой работы языковой модели с повышенной эффективностью.