Компьютеры

Lambda повышает эффективность и надежность обучения ИИ с помощью совместно упакованной оптики NVIDIA Photonics

Tendela Briefing ·
5 просмотров · 0 Комментарии
Lambda повышает эффективность и надежность обучения ИИ с помощью совместно упакованной оптики NVIDIA Photonics

Image: NVIDIA · Source

Lambda внедряет совместно упакованные оптические коммутаторы NVIDIA Photonics, чтобы улучшить энергоэффективность, снизить задержки и повысить устойчивость кластеров ИИ, объединяющих более 10 000 GPU для обучения моделей в крупном масштабе.

Обучение продвинутых моделей искусственного интеллекта требует работы тысяч GPU, что налагает требования на сетевую инфраструктуру по обеспечению исключительной скорости, эффективности и надежности. Компания Lambda, облачный провайдер, специализирующийся на инфраструктуре ИИ, решила эту сетевую задачу, интегрировав совместно упакованные оптические коммутаторы NVIDIA Photonics (CPO) в свои ИИ-системы.

Реализация Lambdа соединяет стойки NVIDIA GB300 NVL72, содержащие более 10 000 GPU, с использованием этих инновационных коммутаторов CPO, улучшая общую устойчивость и эффективность фабрики ИИ. По словам Дэйва Варда, президента облачных сервисов Lambda, совместно упакованная оптика является ключевой для поддержки быстро растущих требований больших кластеров ИИ, что представляет собой важный шаг в развитии инфраструктуры ИИ.

Тестирование показало, что внедрение коммутаторов NVIDIA Photonics уменьшило сетевые задержки примерно на 4% на уровне стойки и до 10% на уровне под-кластера, при этом сохраняется пропускная способность на уровне традиционной подключаемой оптики.

Улучшение энергоэффективности особенно важно, поскольку сеть потребляет энергию, которая могла бы использоваться для вычислительных операций. NVIDIA Photonics заменяет традиционные подключаемые трансиверы оптическими движками, тесно интегрированными с чипом коммутатора, что обеспечивает до пятикратного улучшения энергоэффективности и пятнадцатикратное повышение надежности. В конструкции используется в четыре раза меньше лазеров, минимизируя потенциальные точки отказа.

Преимущества в терморегуляции также значительны. Конфигурация Lambda использует жидкостное охлаждение для эффективного отвода тепла, фиксируя среднюю температуру оптики на уровне 36°C по сравнению с 51°C у типичной подключаемой оптики, что способствует улучшению целостности сигнала.

Кроме того, архитектура системы включает восемнадцать съемных внешних источников света на каждый пакет коммутатора, что позволяет заменять световые модули в полевых условиях — в отличие от традиционной оптики, требующей полной замены модуля при выходе из строя лазера. Существенное сокращение электрических путей с дюймов до миллиметров снижает потери сигнала и устраняет необходимость в промежуточных ретаймерах, дополнительно уменьшая энергопотребление и сложность компонентов.

Принятие NVIDIA Photonics компанией Lambda является примером стратегического улучшения инфраструктуры, повышающего производительность обучения ИИ, устойчивость сети и энергоэффективность в масштабах. Это внедрение отражает растущие усилия отрасли по совершенствованию сетей фабрик ИИ для поддержки всё более крупных и сложных нагрузок ИИ.

▶ Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics — Смотреть видео ↗

Источники и первоисточники

Комментарии (0)

Комментариев пока нет. Начните обсуждение.

Написать комментарий

Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт