Google запускает TorchTPU, чтобы бросить вызов доминированию Nvidia в разработке AI-приложений

Image: TechCrunch · Source

Google выпускает TorchTPU — открытый PyTorch для запуска AI-приложений на TPU Google, присоединившись к инициативам Amazon по снижению зависимости от аппаратного обеспечения Nvidia.

Google представила TorchTPU — открытую версию популярного AI-фреймворка PyTorch, адаптированную для работы на собственных тензорных процессорах Tensor Processing Units (TPU). Этот релиз отражает стратегический шаг Google, направленный на предоставление разработчикам AI-приложений удобной возможности отказаться от доминирующих GPU Nvidia, которые сейчас лежат в основе большинства AI-приложений. PyTorch, изначально разработанный Meta в 2016 году и ныне управляемый Linux Foundation, широко используется — по оценкам, им пользуются около 85% AI-приложений. Однако основные функции фреймворка были в первую очередь оптимизированы под GPU Nvidia, что способствовало преобладанию Nvidia на рынке AI-оборудования.

TorchTPU позволяет разработчикам переносить существующие PyTorch-приложения на TPU Google и облачную платформу с минимальными усилиями и без необходимости переписывать код, достаточно изменить конфигурацию. Эта доступность обеспечивается также сотрудничеством Google с известными AI-компаниями и фреймворками, такими как Meta, Hugging Face, Inferact и RadixArk, чтобы гарантировать совместимость и равную производительность.

В дополнение к TorchTPU Google выпустил набор инструментов TPU agent, помогающий разработчикам мигрировать и отлаживать AI-приложения на инфраструктуре Google. Также обновлён инструмент LiteRT, призванный лучше поддерживать AI-нагрузки на различных устройствах, включая телефоны и встроенные системы, что расширяет доступность TPU.

Этот шаг следует за аналогичным объявлением Amazon, которая представила TorchNeuron — адаптацию PyTorch для собственных AI-чипов Trainium. Amazon дополнительно вносит код в основной проект PyTorch, чтобы устранить зависимости от аппаратного обеспечения Nvidia, продвигая более аппаратно-агностичную экосистему.

Хотя эти инициативы Google и Amazon не означают немедленный отказ разработчиков AI от аппаратного обеспечения Nvidia, они представляют собой значимые усилия по диверсификации AI-экосистемы оборудования. Облегчая кроссплатформенную разработку и миграцию в облако, обе компании стремятся ослабить устоявшуюся позицию Nvidia и расширить выбор для создателей AI-приложений.