Arvutamine

Lambda parandab AI koolituse efektiivsust ja töökindlust NVIDIA fotonika koospakendatud optikaga

Tendela Briefing ·
5 vaatamist · 0 Kommentaarid
Lambda parandab AI koolituse efektiivsust ja töökindlust NVIDIA fotonika koospakendatud optikaga

Pilt: NVIDIA · Allikas

Lambda kasutab NVIDIA fotonika koospakendatud optika lüliteid, et parandada energiakasutust, vähendada latentsusaega ja tõsta vastupidavust AI klastrites, mis ühendavad üle 10 000 GPU suuremahuliste mudelite koolitamiseks.

Tipptehisintellekti mudelite koolitamine nõuab tuhandete GPU-de koostööd, mis vajab võrguinfrastruktuuri, mis suudab pakkuda erakordset kiirust, efektiivsust ja töökindlust. Lambda, AI infrastruktuuri pilveteenuste pakkuja, on sellele võrgustiku väljakutsele vastanud, integreerides oma AI süsteemidesse NVIDIA fotonika koospakendatud optika (CPO) lüliteid.

Lambda lahendus ühendab NVIDIA GB300 NVL72 riiulid, mis koosnevad enam kui 10 000 GPU-st, nende uuenduslike CPO lülititega, parandades AI tehase üldist töökindlust ja efektiivsust. Lambda pilveteenuste president Dave Ward sõnul on koospakendatud optika kriitiline suurenevate AI klastrite nõudmiste toetamiseks, mis tähistab olulist arengut AI infrastruktuuris.

Testid näitasid, et NVIDIA fotonika lülitite kasutuselevõtt vähendas võrgu latentsust ligikaudu 4% riiulikalas ja kuni 10% podi skalas, säilitades samal ajal läbilaskevõime traditsiooniliste pistikuliste optikatega võrreldaval tasemel.

Energiatõhususe paranemine on märkimisväärne, sest võrk tarbib energiat, mida muidu võiks kasutada arvutusoperatsioonide jõustamiseks. NVIDIA Photonics asendab tavapärased pistikulised transiiverid optiliste mootoritega, mis on tihedalt integreeritud lüliti kiibiga, saavutades kuni viis korda parem energiakasutus ja viisteist korda suurema töökindluse. Disain kasutab ka neli korda vähem lasereid, minimeerides potentsiaalseid rikete kohti.

Termiline juhtimine pakub olulisi eeliseid. Lambda lahendus kasutab vedelikjahutust efektiivse soojuse hajutamiseks, registreerides optikate mediaantemperatuuriks 36°C võrreldes tüüpilise pistikulise optika 51°C-ga, mis parandab signaali kvaliteeti.

Lisaks on süsteemi arhitektuuris ühe lülitipaketi kohta kaheksateist eemaldatavat välist valgusallikat, võimaldades valgusmoodulite väljavahetamist väljas – erinevalt traditsioonilisest optikast, kus laseri rikke korral tuleb vahetada kogu moodul. Elektriliste ühenduste oluliselt lühendamine tollidest millimeetriteni vähendab signaali kadu ja elimineerib vahelisi retimer kiipe, mis omakorda vähendab energiatarvet ja komponentide keerukust.

Lambda NVIDIA Photonics kasutuselevõtt on strateegiline infrastruktuuri täiendus, mis tõstab AI koolituse jõudlust, võrgu vastupidavust ja energiatõhusust suurtes mahus. See paigaldus peegeldab kasvavat tööstusharu pingutust täiustada AI tehase võrgustikke, et toetada üha suuremaid ja keerukamaid AI töökoormusi.

▶ Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics — Vaata videot ↗

Allikad ja originaaluudised

Kommentaarid (0)

Kommentaare veel pole. Alusta arutelu.

Kirjuta kommentaar

Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto