Amazon pristato TorchNeuron – iššūkis Nvidia dominavimui AI aparatūroje su PyTorch palaikymu

Vaizdas: TechCrunch · Šaltinis

Amazon Web Services pristatė TorchNeuron, kūrimo įrankį, leidžiantį PyTorch pagrindu sukurtoms dirbtinio intelekto programoms be trikdžių veikti ant Trainium AI mikroschemos, siekdamas sumažinti Nvidia dominavimą AI programinės ir aparatinės įrangos suderinamume.

Amazon Web Services (AWS) pristatė TorchNeuron – kūrėjų įrankį, skirtą palengvinti PyTorch dirbtinio intelekto programų diegimą savo sukurtame Trainium AI mikroschemoje. Šis žingsnis atspindi reikšmingą strateginį Amazon bandymą suardyti Nvidia įsitvirtinimą AI aparatūros rinkoje, kuri išliko stipriai palaikoma Nvidia CUDA suderinamumu su PyTorch – viena iš pirmaujančių atvirojo kodo DI programų karkasų.

PyTorch, iš pradžių sukurtas Facebook ir dabar prižiūrimas Linux Foundation, palaiko apie 85 % DI programų. Istoriškai Nvidia sukūrė glaudžią integraciją su PyTorch per savo CUDA platformą, formuodama programinės ir aparatinės įrangos ekosistemą, dėl ko Nvidia tapo prioritetu DI kūrėjų tarpe.

TorchNeuron leidžia kūrėjams vykdyti DI modelius Trainium mikroschemoje tiesiog pakeičiant vieną konfigūracijos kodo eilutę PyTorch programoje, nereikalaujant programos perrašymo. Ši paprastumas remiasi pažintimi su PyTorch, palengvinant sklandesnį perėjimą kūrėjams, norintiems naudoti Amazon DI aparatūrą.

Be techninio suderinamumo, Amazon pabrėžia Trainium naudojimo privalumus AWS debesų ekosistemoje. AWS pozicionuojasi kaip visapusiška platforma, palaikanti DI startuolius nuo prototipo iki gamybos, nepriklausomai nuo specializuotų išorinių kompiuterių tiekėjų. Pasak Colin Brace, AWS Annapurna Labs technologijų programinės įrangos viceprezidento, šis integruotas požiūris leidžia startuoliams efektyviai augti valdant išlaidas.

AWS teigia, kad Trainium apdoroja tiek DI modelių mokymą, tiek inferenciją, pagerindamas veiklos ekonomiką per DI darbo krūvio ciklą. Pavyzdžiui, DI balso programos tiekėjas Deepgram pažymėjo 70 % geresnį garso apdorojimą už dolerį po migracijos į Trainium.

Be to, Amazon neapsiriboja vien Trainium platforma. Įmonė aktyviai prisideda prie pagrindinio PyTorch projekto kodo pašalindama Nvidia orientuotus priklausomumus, siekdama padaryti PyTorch labiau nepriklausomą nuo konkrečios aparatinės įrangos. Ši iniciatyva turi suteikti platesnei kūrėjų bendruomenei daugiau pasirinkimo ir lankstumo renkantis DI aparatūrą.

Nors tai galėtų padidinti konkurenciją ir sumažinti kliūtis alternatyviems DI mikroschemų tiekėjams, lieka neaišku, ar tokie pokyčiai nepridės papildomos sudėtingumo ar iš tiesų duos žadėtą naudą. Jei Amazon strategija pasiseks, tai galėtų suardyti Nvidia ilgalaikę dominavimą, skatinant atvirą ekosistemą, atskiriant DI programinės įrangos kūrimą nuo vieno tiekėjo aparatinės įrangos.

Apibendrinant, Amazon TorchNeuron ir jos indėlis į PyTorch yra drąsus bandymas diversifikuoti DI aparatūros pasirinkimus ir suteikti kūrėjams lankstesnę bei ekonomiškesnę debesų pagrindu veikiančią DI infrastruktūrą.