Amazon запускает TorchNeuron, чтобы бросить вызов доминированию Nvidia в AI-оборудовании с поддержкой PyTorch

Image: TechCrunch · Source

Amazon Web Services представила TorchNeuron — инструмент для разработчиков, позволяющий запускать AI-приложения на базе PyTorch на собственном AI-чипе Trainium, стремясь ослабить доминирование Nvidia в совместимости программного обеспечения и аппаратуры для AI.

Amazon Web Services (AWS) представила TorchNeuron — инструмент для разработчиков, призванный упростить развертывание AI-приложений на основе PyTorch на собственном AI-чипе Trainium. Этот шаг представляет собой значительную стратегическую инициативу Amazon по разрушению закрепленной позиции Nvidia в области AI-оборудования, которая поддерживается тесной совместимостью программного обеспечения CUDA Nvidia с PyTorch, ведущей открытой AI-платформой.

PyTorch, изначально разработанный Facebook и ныне поддерживаемый Linux Foundation, используется примерно в 85% AI-приложений. Исторически Nvidia выстраивала глубокую интеграцию с PyTorch через свою платформу CUDA, создавая экосистему программного обеспечения и оборудования, благодаря которой Nvidia стала предпочтительным выбором для разработчиков AI.

TorchNeuron позволяет разработчикам запускать AI-модели на Trainium, изменив всего одну строку конфигурации в Their PyTorch-приложении, без необходимости переписывать код. Эта удобство использования опирается на знакомство с PyTorch, облегчая плавный переход для разработчиков, заинтересованных в использовании AI-оборудования Amazon.

Помимо технической совместимости Amazon подчеркивает преимущества использования Trainium в экосистеме AWS облака. AWS позиционирует себя как комплексную платформу, поддерживающую AI-стартапы от прототипа до производства без зависимости от специализированных внешних провайдеров вычислительных ресурсов. По словам Колина Брейса, вице-президента по технологическому программному обеспечению в AWS Annapurna Labs, такой интегрированный подход помогает стартапам эффективно масштабироваться, управляя при этом затратами.

AWS утверждает, что Trainium справляется с обучением и инференсом AI-моделей, улучшая экономику эксплуатации на протяжении всего жизненного цикла AI-нагрузок. Например, провайдер AI-голосовых приложений Deepgram сообщил о 70%-ном улучшении обработки аудио на каждый потраченный доллар после перехода на Trainium.

Более того, Amazon не ограничивается исключительно платформой Trainium. Компания активно вносит код в основной проект PyTorch, устраняя встроенные зависимости, ориентированные на Nvidia, с целью сделать PyTorch более аппаратно-независимым. Эта инициатива призвана предоставить более широкому сообществу разработчиков больший выбор и гибкость при выборе AI-оборудования.

Хотя это может усилить конкуренцию и снизить барьеры для альтернативных поставщиков AI-чипов, остается выяснить, приведут ли такие изменения к дополнительной сложности или принесут ожидаемые выгоды. Если стратегия Amazon окажется успешной, она может нарушить долгосрочное доминирование Nvidia, создав открытую экосистему, отделяющую разработку программного обеспечения AI от привязки к оборудованию одного вендора.

В итоге, TorchNeuron от Amazon и его вклад в PyTorch представляют собой смелую попытку диверсифицировать возможности AI-оборудования и предоставить разработчикам более гибкую и экономичную инфраструктуру AI в облаке.