Laskenta

Lambda parantaa tekoälyn koulutuksen tehokkuutta ja luotettavuutta NVIDIA Photonicsin yhteispakatuilla optisilla ratkaisuilla

Tendela Briefing ·
5 näkymää · 0 Kommentit
Lambda parantaa tekoälyn koulutuksen tehokkuutta ja luotettavuutta NVIDIA Photonicsin yhteispakatuilla optisilla ratkaisuilla

Kuva: NVIDIA · Lähde

Lambda ottaa käyttöön NVIDIA Photonicsin yhteispakattuja optisia kytkimiä parantaakseen energiatehokkuutta, vähentääkseen viivettä ja lisätäkseen kestävyyttä tekoälyklustereissa, jotka yhdistävät yli 10 000 GPU:ta suurimittaisessa mallien koulutuksessa.

Kehittyneiden tekoälymallien kouluttaminen vaatii tuhansien GPU:iden yhteistyötä, mikä edellyttää verkkoarkkitehtuuria, joka tarjoaa poikkeuksellisen nopeuden, tehokkuuden ja luotettavuuden. Lambda, tekoälyinfrastruktuuriin erikoistunut pilvipalveluntarjoaja, on ratkaissut tämän verkkhaasteen integroimalla NVIDIA Photonicsin yhteispakattuja optisia (CPO) kytkimiä tekoälyjärjestelmiinsä.

Lambdan toteutus yhdistää NVIDIA GB300 NVL72 -kaapit, joissa on yli 10 000 GPU:ta, näillä innovatiivisilla CPO-kytkimillä, parantaen AI-tehtaan kokonaiskestävyyttä ja tehokkuutta. Lambda pilvipalveluiden johtajan Dave Wardin mukaan yhteispakattuja optisia ratkaisuja tarvitaan nopeasti kasvavien suurten tekoälyklustereiden vaatimusten tukemiseen, mikä merkitsee merkittävää edistystä tekoälyinfrastruktuurissa.

Testaukset osoittivat, että NVIDIA Photonics -kytkimien käyttöönotto vähensi verkon viivettä noin 4 % kaappitasolla ja jopa 10 % poditasolla, samalla kun läpäisykyky säilyi perinteisen vaihdettavan optiikan tasolla.

Energiansäästö on merkittävää, sillä verkot kuluttavat energiaa, joka voisi muuten ohjautua laskentatehtäviin. NVIDIA Photonics korvaa perinteiset vaihdettavat transceiverit optisilla moottoreilla, jotka on integroitu tiiviisti kytkimen siruun, mikä tuottaa jopa viisi kertaa paremman energiatehokkuuden ja viisitoista kertaa korkeamman luotettavuuden. Suunnittelu myös käyttää neljä kertaa vähemmän laseja, mikä vähentää mahdollisia vikatiloja.

Lämpöhallinta hyötyy merkittävästi. Lambdan ratkaisu käyttää nestemäistä jäähdytystä lämmön tehokkaaseen poistamiseen, rekisteröiden optiikan mediaanilämpötilaksi 36 °C, kun taas perinteisissä vaihdettavissa optiikoissa lämpötila on 51 °C, mikä parantaa signaalin eheyden säilymistä.

Lisäksi järjestelmän arkkitehtuuri sisältää kahdeksantoista vaihdettavaa ulkoista valonlähdettä kutakin kytkinpakettia kohden, mahdollistaen valomoduulien kenttäkorjaukset – mikä eroaa perinteisistä optiikoista, joissa laserin vikaantuessa täytyy vaihtaa koko moduuli. Lyhentämällä sähköisiä reittejä dramaattisesti tuumista millimetreihin, yhteispakattu optiikka vähentää signaalihäviöitä ja poistaa tarvetta välikokoiseksi viritinpiiriksi, mikä pienentää edelleen energiankulutusta ja komponenttien monimutkaisuutta.

Lambdan NVIDIA Photonicsin käyttöönotto on strateginen infrastruktuurin parannus, joka nostaa tekoälyn koulutuskapasiteettia, verkon kestävyyttä ja energiatehokkuutta suuressa mittakaavassa. Tämä käyttöönotto kuvastaa kasvavaa alan pyrkimystä kehittää tekoälytehtaitten verkkoja tukemaan yhä suurempia ja monimutkaisempia tekoälykuormia.

▶ Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics — Katso video ↗

Lähteet ja alkuperäiset raportit

Kommentit (0)

Ei vielä kommentteja. Aloita keskustelu.

Kirjoita kommentti

Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili