Skaičiavimas

Lambda pagerina AI treniravimo efektyvumą ir patikimumą su NVIDIA fotonikos kartu paketuotais optiniais sprendimais

Tendela Briefing ·
5 peržiūros · 0 Komentarai
Lambda pagerina AI treniravimo efektyvumą ir patikimumą su NVIDIA fotonikos kartu paketuotais optiniais sprendimais

Vaizdas: NVIDIA · Šaltinis

Lambda diegia NVIDIA fotonikos kartu paketuotus optinius jungiklius, siekdama pagerinti energijos efektyvumą, sumažinti delsą ir padidinti atsparumą AI klasteriuose, jungiančiuose per 10 000 GPU, skirtuose didelio masto modelių treniravimui.

Išplėstinių AI modelių mokymas reikalauja tūkstančių GPU bendradarbiavimo, todėl reikalinga tinklo infrastruktūra, galinti užtikrinti išskirtinį greitį, efektyvumą ir patikimumą. Lambda, debesijos paslaugų teikėja, specializuojanti AI infrastruktūroje, sprendė šią tinklo problemą integruodama NVIDIA fotonikos kartu paketuotus optinius (CPO) jungiklius į savo AI sistemas.

Lambda sprendimas jungiama NVIDIA GB300 NVL72 stelažus, kuriuose yra daugiau nei 10 000 GPU, su inovatyviais CPO jungikliais, tokiu būdu gerindama visos AI gamyklos patvarumą ir efektyvumą. Pasak Dave Ward, Lambda debesijos paslaugų prezidento, kartu paketuoti optiniai sprendimai yra labai svarbūs sparčiai augančioms didelėms AI klasterių reikmėms, žymintys svarbų pažangą AI infrastruktūroje.

Testavimų metu paaiškėjo, kad NVIDIA fotonikos jungiklių įtraukimas sumažino tinklo delsą apie 4 % stelažų lygiu ir iki 10 % konteinerių lygiu, išlaikant pralaidumą, panašų į tradicinius keičiamus optinius sprendimus.

Energijos efektyvumo gerinimas yra reikšmingas, nes tinklai naudoja energiją, kuri kitu atveju galėtų būti skirta skaičiavimo darbams. NVIDIA fotonika pakeičia įprastus keičiamus transiverius optiniais varikliais, integruotais glaudžiai su jungiklio mikroschema, suteikdama iki penkių kartų geresnį energijos efektyvumą ir penkiolika kartų didesnį patikimumą. Šis dizainas taip pat naudoja keturis kartus mažiau lazerių, taip sumažindamas galimų gedimų taškų skaičių.

Šilumos valdymo privalumai yra reikšmingi. Lambda sistema naudoja skystą aušinimą efektyviam šilumos išsklaidymui, registruodama vidutinę optikos temperatūrą 36 °C, palyginti su 51 °C įprastuose keičiamuose optiniuose sprendimuose, kas prisideda prie pagerėjusios signalo vientisumo.

Be to, sistemos architektūra apima aštuoniolika išimtinai keičiamų išorinių šviesos šaltinių kiekvienam jungiklio paketui, leidžiančių lauko sąlygomis keisti šviesos modulius – tai skiriasi nuo tradicinių optinių sprendimų, kuriems lazerio gedimo atveju reikia keisti visą modulį. Drastiškai sutrumpindamas elektrinius atstumus nuo colių iki milimetrų, kartu paketuoti optiniai sprendimai sumažina signalo praradimą ir pašalina tarpinio retimerio mikroschemos poreikį, dar labiau mažindami energijos suvartojimą ir komponentų sudėtingumą.

Lambda diegimas NVIDIA fotonikos technologijos yra strateginis infrastruktūros patobulinimas, kuris didina AI mokymo našumą, tinklo atsparumą ir energijos efektyvumą dideliu mastu. Šis diegimas atspindi augančias pramonės pastangas tobulinti AI gamyklų tinklus, kad jie galėtų palaikyti vis didesnius ir sudėtingesnius AI darbo krūvius.

▶ Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics — Žiūrėti vaizdo įrašą ↗

Šaltiniai ir originalūs pranešimai

Komentarai (0)

Komentarų dar nėra. Pradėkite diskusiją.

Rašyti komentarą

Komentarai publikuojami po moderavimo. Jūsų vardas ir komentaras bus vieši. Paskyra