Google käivitab TorchTPU, et võidelda Nvidia domineerimise vastu AI-rakenduste arenduses

Pilt: TechCrunch · Allikas

Google vabastas TorchTPU, avatud lähtekoodiga PyTorchi kohanduse, mis võimaldab AI-arendajatel lihtsalt kasutada Google'i TPU kiipe, liitudes Amazoniga sarnaste pingutustega Nvidia riistvara domineerimise vähendamiseks.

Google on tutvustanud TorchTPU-d, mis on populaarse AI arendusraamistiku PyTorchi avatud lähtekoodiga versioon, kohandatud töötama nende omapärastel Tensor Processing Units (TPU) kiipidel. See avalikustamine märgib Google'i strateegilist sammu pakkumaks AI-rakenduste arendajatele lihtsat võimalust eemalduda domineerivatest Nvidia GPU-dest, mis praegu toetavad enamikku AI rakendustest. PyTorch, mille arendas algselt Meta 2016. aastal ja mida nüüd haldab Linux Foundation, on laialdaselt kasutatav — seda kasutab hinnanguliselt 85% AI rakendustest. Kuid selle põhifunktsioonid on peamiselt loodud Nvidia GPU-dele, mis on aidanud Nvidia positsioonil AI riistvaras domineerida.

TorchTPU võimaldab arendajatel olemasolevaid PyTorch rakendusi Google'i TPU-dele ja pilveplatvormile viia minimaalse vaevaga ning ilma koodi ümberkirjutamiseta, kasutades seda vaid konfiguratsioonimuudatuste kaudu. Selle ligipääsetavust parandab Google'i koostöö märkimisväärsete AI ettevõtete ja raamistikuga nagu Meta, Hugging Face, Inferact ja RadixArk, et tagada ühilduvus ja jõudluspariteet.

Täienduseks TorchTPU-le avaldas Google ka TPU agentide komplekti, mis on tööriistade kogum arendajate abistamiseks AI rakenduste migratsioonil ja silumisel Google'i infrastruktuuril. Lisaks uuendas Google oma LiteRT tööriista, et paremini toetada AI töökoormusi erinevatel seadmetel, sealhulgas telefonidel ja manussüsteemides, laiendades veelgi TPU-de ligipääsetavust.

See samm järgneb Amazon'i sarnasele teatisele, kus käivitati TorchNeuron, PyTorchi kohandus nende enda Trainium AI kiipidele. Amazon panustab ka koodi peamisele PyTorchi projektile, et eemaldada Nvidia-spetsiifilisi riistvarasõltuvusi, toetades riistvarasõbralikkuse ökoloogiat.

Kuigi Google'i ja Amazon'i algatused ei tähenda AI arendajate peatselt Nvidia riistvarast loobumist, esindavad need olulisi jõupingutusi AI riistvara ökoloogia mitmekesistamiseks. Lihtsustades platvormidevahelist arendust ja pilvemigratsiooni, püüavad mõlemad ettevõtted nõrgendada Nvidia kindlat positsiooni ning laiendada AI-rakenduste looja valikuvõimalusi.