Amazon izstrādā TorchNeuron, lai izaicinātu Nvidia dominanci AI aparatūrā ar PyTorch atbalstu

Attēls: TechCrunch · Avots

Amazon Web Services ir ieviesis TorchNeuron, izstrādātāju rīku, kas ļauj PyTorch balstītajām mākslīgā intelekta lietojumprogrammām darboties nevainojami uz uzņēmuma Trainium AI mikroshēmas, mēģinot mazināt Nvidia spēcīgo stāvokli AI programmatūras un aparatūras savietojamībā.

Amazon Web Services (AWS) ir atklājis TorchNeuron, izstrādātāju rīku, kas paredzēts PyTorch AI lietojumprogrammu vienkāršotai izvietošanai uz tā paša uzņēmuma Trainium AI mikroshēmas. Šis solis ir nozīmīga stratēģiska Amazonis iniciatīva, lai pārtrauktu Nvidia nostiprināto pozīciju AI aparatūras jomā, ko stiprinājusi Nvidia CUDA programmatūras savietojamība ar PyTorch — vadošo atvērtā koda AI ietvaru.

PyTorch, sākotnēji izstrādāts Facebook un pašlaik uzturēts Linux Foundation, ir pamats apmēram 85% AI lietojumprogrammu. Vēsturiski Nvidia ir izveidojusi dziļu integrāciju ar PyTorch, izmantojot CUDA platformu, veidojot programmatūras un aparatūras ekosistēmu, kas padarījusi Nvidia par iecienītāko izvēli AI izstrādātājiem.

TorchNeuron ļauj izstrādātājiem palaist AI modeļus uz Trainium, vienkārši mainot vienu konfigurācijas rindiņu savā PyTorch lietojumprogrammā, bez nepieciešamības pārrakstīt kodu. Šī lietošanas vienkāršība izmanto PyTorch pazīstamību, nodrošinot plūdenāku pāreju izstrādātājiem, kuri vēlas pieņemt Amazon AI aparatūru.

Ārpus tehniskās saderības Amazon uzsver Trainium lietošanas priekšrocības AWS mākoņu ekosistēmā. AWS pozicionē sevi kā visaptverošu platformu, kas atbalsta AI jaunuzņēmumus no prototipa līdz ražošanai, bez atkarības no specializētiem ārējiem skaitļošanas pakalpojumu sniedzējiem. Pēc Kolina Breisa, AWS Annapurna Labs tehnoloģiju programmatūras viceprezidenta teiktā, šī integrētā pieeja palīdz jaunuzņēmumiem efektīvi mērogot darbību un kontrolēt izmaksas.

AWS apgalvo, ka Trainium atbalsta gan AI modeļu apmācību, gan inferenci, uzlabojot darbības ekonomiku visā AI darba slodzes dzīves ciklā. Piemēram, AI balss lietojumprogrammas nodrošinātājs Deepgram ziņo par 70% uzlabojumu audio apstrādē par dolāru pēc pārejas uz Trainium.

Turklāt Amazon neierobežo savus centienus tikai ar Trainium platformu. Uzņēmums aktīvi sniedz kodu galvenajam PyTorch projektam, lai noņemtu Nvidia centriskiem atkarībām, cenšoties padarīt PyTorch aparatūras neitrālāku. Šī iniciatīva cenšas sniegt plašākai izstrādātāju kopienai lielāku izvēles brīvību un elastību AI aparatūras izvēlē.

Lai gan tas varētu palielināt konkurenci un samazināt barjeras alternatīviem AI mikroshēmu piegādātājiem, vēl jāredz, vai šādas izmaiņas neieviesīs papildu sarežģītību vai nesīs solītās priekšrocības. Ja Amazon stratēģija būs veiksmīga, tā varētu izjaukt Nvidia ilgstošo dominanci, veicinot atvērtu ekosistēmu, kas atdala AI programmatūras izstrādi no viena piegādātāja aparatūras ieslodzījuma.

Kopsavilkumā, Amazon TorchNeuron un tā ieguldījums PyTorch pārstāv drosmīgu mēģinājumu dažādot AI aparatūras iespējas un dot izstrādātājiem elastīgāku un izmaksu ziņā efektīvāku mākoņa AI infrastruktūru.