Datorzinātnes

Lambda uzlabo AI apmācības efektivitāti un uzticamību, izmantojot NVIDIA optisko fotoniku ar ko-pakotes optiku

Tendela Briefing ·
5 skatījumi · 0 Komentāri
Lambda uzlabo AI apmācības efektivitāti un uzticamību, izmantojot NVIDIA optisko fotoniku ar ko-pakotes optiku

Attēls: NVIDIA · Avots

Lambda izmanto NVIDIA fotonikas ar ko-pakotes optisko slēdžus, lai uzlabotu energoefektivitāti, samazinātu latentumu un palielinātu noturību AI klasteros, kuros savienoti vairāk nekā 10 000 GPU liela mēroga modeļu apmācībai.

Sarežģītu AI modeļu apmācība prasa tūkstošiem GPU sadarbību, kas nepiecieš tīkla infrastruktūru ar izcilu ātrumu, efektivitāti un uzticamību. Lambda - mākoņpakalpojumu sniedzējs, kas specializējas AI infrastruktūrā, ir risinājusi šo tīkla izaicinājumu, integrējot NVIDIA fotonikas ar ko-pakotes optiku (CPO) slēdžus savās AI sistēmās.

Lambda īstenojums savieno NVIDIA GB300 NVL72 skapjus, kuros ir vairāk nekā 10 000 GPU, ar šiem inovatīvajiem CPO slēdžiem, uzlabojot kopējo AI rūpnīcas noturību un efektivitāti. Pēc Lambda mākoņpakalpojumu prezidenta Dave Ward teiktā, ko-pakotes optika ir būtiska, lai atbalstītu strauji augošās lielo AI klaustru prasības, kas ir nozīmīgs solis AI infrastruktūrā.

Testi parādīja, ka NVIDIA fotonikas slēdžu iekļaušana samazināja tīkla latentumu aptuveni par 4% skapju mērogā un līdz 10% podu mērogā, saglabājot caurlaidspēju līdzvērtīgu tradicionālajai pieslēdzamajai optikai.

Energoefektivitātes uzlabojumi ir būtiski, jo tīkli patērē enerģiju, kas citādi būtu izmantojama aprēķinu operācijām. NVIDIA Photonics aizvieto parastos pieslēdzamos transīverus ar optiskajiem dzinējiem, kas cieši integrēti ar slēdža mikroshēmu, nodrošinot līdz piecām reizēm labāku energoefektivitāti un piecpadsmit reizes lielāku uzticamību. Dizains arī izmanto četras reizes mazāk lāzeru, samazinot iespējamās kļūmju vietas.

Termiskās vadības priekšrocības ir ievērojamas. Lambda risinājums izmanto šķidruma dzesēšanu, lai efektīvi izkliedētu siltumu, reģistrējot optikas mediāntemperatūru 36°C salīdzinājumā ar 51°C tradicionālajai pieslēdzamajai optikai, kas uzlabo signāla integritāti.

Turklāt sistēmas arhitektūrā katrā slēdža iepakojumā ir astoņpadsmit noņemami ārējie gaismas avoti, kas ļauj lauka apstākļos nomainīt gaismas moduļus — atšķirībā no tradicionālās optikas, kur lāzera bojājuma gadījumā jāmaina visa moduļa komplekts. Pārvēršot elektriskos ceļus no collām uz milimetriem, ko-pakotes optika samazina signāla zudumu un novērš starpposma atjaunotāja mikroshēmu nepieciešamību, tādējādi vēl vairāk samazinot enerģijas patēriņu un komponentu sarežģītību.

Lambda ieviešana NVIDIA Photonics demonstrē stratēģisku infrastruktūras uzlabojumu, kas palielina AI apmācības veiktspēju, tīkla noturību un enerģijas efektivitāti plašā mērogā. Šī ieviešana atspoguļo nozares pieaugošās pūles pilnveidot AI rūpnīcu tīklus, lai atbalstītu arvien lielākas un sarežģītākas AI darbības.

▶ Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics — Skatīties video ↗

Avoti un oriģinālziņas

Komentāri (0)

Komentāru vēl nav. Sāciet diskusiju.

Rakstīt komentāru

Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts