Google Cloud раскрывает продвинутые эталоны обучения ИИ с седьмым поколением Ironwood TPU

Image: Google · Source
Google Cloud демонстрирует новые результаты MLPerf Training v6.1 с использованием седьмого поколения Ironwood TPU и графических процессоров NVIDIA Grace Blackwell, показывая передовые скорости и эффективность обучения ИИ на передовых эталонах предварительного обучения и агентного обучения с подкреплением.
Google Cloud опубликовал новые эталоны производительности обучения ИИ в рамках раунда MLPerf Training v6.1, выделяя значительные достижения при использовании седьмого поколения Tensor Processing Units (TPU) Ironwood и графических процессоров NVIDIA Grace Blackwell. Эти результаты демонстрируют продолжающиеся инвестиции Google в совместно разработанные кристаллы, сети и открытую программную инфраструктуру в архитектуре AI Hypercomputer.
Среди ключевых достижений, 8192 Ironwood TPU завершили предварительное обучение на крупной модели машинного обучения всего за 1,70 минуты, эффективно масштабируясь до 4096 чипов с поддерживаемой эффективностью 96%. Это быстрое время обучения является важной вехой в сокращении циклов разработки ИИ для крупных моделей.
Кроме того, архитектура Ironwood продемонстрировала свои возможности на новом эталоне агентного обучения с подкреплением (RL) — первом конкурсе MLPerf такого типа. Используя 640 Ironwood TPU, система достигла целевой точности кодирования агентного RL за 18,02 минуты, превысив целевое значение эталона 0.69 с результатом 0.765. Настройка обучения также оптимизировала использование чипов, обеспечивая простаивание оборудования менее 3% времени во время одновременного генерации кода и обучения.
Вместе с TPU Google Cloud также представил результаты с использованием графических процессоров NVIDIA Grace Blackwell на своих экземплярах A4X Max. Кластер из 256 графических процессоров NVIDIA GB300 завершил эталон предварительного обучения за 31,96 минуты, при этом были представлены дополнительные результаты для эталона агентного RL.
Эти эталоны отражают синергию между собственным аппаратным обеспечением Google и программным стеком, расширяя границы скорости и эффективности обучения ИИ. Детальные результаты подчёркивают преимущества тесно интегрированной облачной инфраструктуры ИИ, адаптированной для больших и сложных моделей.
Полные технические детали и дальнейшие результаты раунда MLPerf Training v6.1 доступны на официальном блоге Google Cloud.
Источники и первоисточники
Read the original source ↗

Комментарии (0)
Комментариев пока нет. Начните обсуждение.
Написать комментарий
Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт