Microsoft представила AI-чип Maia 300 для снижения зависимости от графических процессоров Nvidia

Image: Illustrative image · prashanth dara · CC BY-SA 3.0 · Source

Microsoft объявила о третьем поколении AI-чипа Maia 300, который к 2027 году станет основным системой AI-инференса с заметным улучшением эффективности по сравнению с системами на базе GPU.

Microsoft представила своё третье поколение внутреннего AI-чипа Maia 300, предназначенного для работы в качестве основного системы AI-инференса, обеспечивающей работу продуктов и сервисов компании. Производственный запуск запланирован на 2027 год, Maia 300 ориентирован на повышение экономической эффективности при выполнении продвинутых AI-задач, включая рассуждения в долгом контексте, задачи с чувствительностью к задержкам в диалогах и сложные многоэтапные агентские процессы.

По словам Скотта Гатри, исполнительного вице-президента облачной группы Microsoft, Maia 300 предназначен обеспечить 40-процентное увеличение числа обработанных токенов на мегаватт по сравнению с ведущими системами на базе GPU, достигая в полной конфигурации с 96 ускорителями до семи раз большей пропускной способности по токенам на уровне стоечного масштаба, чем у предшественника Maia 200. Такие достижения частично связаны с новой архитектурой chiplet, реализованной с использованием техпроцесса TSMC N2P, который разделяет вычислительные, контроллер памяти и функции ввода/вывода для оптимизации площади кремния, выделенной под вычисления, и позволяет каждой функции использовать наиболее подходящую технологию.

Maia 200, представленная ранее в этом же году, в настоящее время поддерживает продакшн AI-задачи для продуктов Microsoft, таких как Microsoft Copilot и GitHub Copilot, и признана лучшей AI-инфраструктурой компании. Ожидается, что Maia 300 расширит эти возможности, позволив Microsoft масштабировать многогигаваттные развертывания Azure Maia и уменьшить зависимость от поставщиков GPU, таких как Nvidia и AMD.

Мустафа Сулейман, генеральный директор Microsoft AI, подчеркнул стратегическую важность совместной разработки аппаратного обеспечения с AI-моделями, отметив, что владение платформой вплоть до кремниевого уровня критично для цели компании конкурировать с лидерами AI, такими как Google DeepMind, OpenAI и Anthropic. Maia 300 сыграет важную роль в эффективной работе пользовательских AI-моделей Microsoft, что свидетельствует о значительном сдвиге в сторону собственных AI-аппаратных средств в экосистеме компании.

Благодаря этим достижениям Microsoft намерена контролировать большую часть своей AI-инфраструктуры, стремясь к повышению эффективности и производительности облачных AI-сервисов к середине десятилетия. Хотя точные детали применения и более широкие стратегии развертывания остаются ограниченными, Maia 300 представляет собой значительный шаг в дорожной карте развития внутренних AI-чипов Microsoft.