Tenstorrent ir ConfidentialMind bendradarbiauja, siekdami pristatyti suverenią DI atvirų aparatūros platformų pagrindu

Vaizdas: Tenstorrent · Šaltinis
Tenstorrent ir ConfidentialMind susivienijo, kad pasiūlytų ConfidentialMind savarankiškai prižiūrimą DI platformą Tenstorrent Galaxy Blackhole sistemose, skirtas organizacijoms, reikalaujančioms visiškos kontrolės savo DI infrastruktūrai keliuose pasaulio regionuose.
Tenstorrent, DI skaičiavimo bendrovė, žinoma dėl savo RISC-V pagrindu veikiančių procesorių ir sistemų, bendradarbiauja su ConfidentialMind, programinės įrangos platforma, specializuojančia generatyvios DI taikymuose privačiose aplinkose. Kartu jie diegia ConfidentialMind savarankiškai prižiūrimą DI platformą Tenstorrent Galaxy Blackhole aparatinėse sistemose. Šis sujungtas sprendimas bus parduodamas ir rinkodaros kampanijose dalyvaus Europoje, Viduriniuose Rytuose, Azijos-Ramiojo vandenyno regione ir Amerikoje.
Ši partnerystė pirmiausia skirta organizacijoms, reikalaujančioms suvereniteto savo DI infrastruktūrai ir duomenims, įskaitant vyriausybes, akademines institucijas, reguliuojamas įmones ir inferencijos paslaugų tiekėjus. Šiuo metu šios organizacijos privalo pačios kurti savo DI platformas, integruodamos komponentus kaip inferencijos aptarnavimas, vektorių duomenų bazės, prieigos kontrolė, pagreičio valdymas ir stebėjimo įrankiai. ConfidentialMind sprendžia šią problemą teikdama diegimo ir valdymo programinės įrangos sluoksnį, tuo tarpu Tenstorrent tiekią bazinę puslaidininkių ir serverių platformą.
ConfidentialMind platforma patvirtinta veikti Tenstorrent Galaxy Blackhole sistemoje – 6U serveriuje su 32 Blackhole Tensix procesoriais. Klientai gali diegti vieną sistemą arba plėsti ją iki superklasterio savo pačių duomenų centruose. Platformos savitarna portalas leidžia diegti atvirojo kodo didelius kalbos modelius (LLM), gavimo palaikomus generavimo (RAG) procesus bei DI agentus, teikiant OpenAI suderinamus API galinius taškus. Be to, palaikomas daugiafunkcis valdymas, duomenų jungtys, pagreičio valdymas, stebėjimas ir atitikties žurnalavimas.
Tenstorrent programinės įrangos partnerių ekosistemos vadovas Grant Jensen pabrėžė, kad klientai siekia DI pajėgumų, kuriais visiškai patys valdytų ir eksploatuotų atvirose sistemose. ConfidentialMind diegimo sluoksnis Galaxy Blackhole aplinkoje supaprastina DI darbo krūvių paleidimą, leidžiant komandoms vykdyti LLM ir agentus savo patalpose be būtinybės kurti sudėtingas platformas nuo nulio.
ConfidentialMind Šiaurės Amerikos bendraįkūrėjas ir generalinis direktorius Severi Tikkala pabrėžė, kad svarbu išlaikyti duomenis vietoje („on-premises“) ir vengti aparatūros užrakinimo (hardware lock-in). Jis pažymėjo, kad diegimas Tenstorrent aparatūroje suteikia atvirą infrastruktūros staktę su atvirais modeliais ir puslaidininkiais.
Tenstorrent visame pasaulyje tiekia aparatūrą ir vietinę pagalbą, o ConfidentialMind teikia programinės įrangos diegimus, jau veikiančius keliuose Europos universitetuose ir prieglobos paslaugų teikėjams. Ši bendradarbiavimo forma leidžia sukurti suverenius DI aplinkas, kuriose organizacijos visiškai kontroliuoja savo DI infrastruktūrą ir duomenis.
Apie įmones: ConfidentialMind, įkurta 2023 m., kurios būstinė yra Espoo, Suomija, o biuras San Franciske, koncentratuojasi į programinę įrangą generatyvios DI diegimui vietoje. Tenstorrent, vadovaujama generalinio direktoriaus Jimo Kellerio, kuria ir gamina RISC-V DI procesorius bei sistemas, ir licencijuoja intelektinę nuosavybę didžiausiems mikroschemų gamintojams, tarp jų Samsung ir LG. Tenstorrent remia investuotojai kaip Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group ir Fidelity. Jų bendros pastangos siekia pagreitinti suverenių ir atvirų DI sprendimų įsisavinimą pasauliniu mastu.




Šaltiniai ir originalūs pranešimai
Skaityti originalų šaltinį ↗

Komentarai (0)
Komentarų dar nėra. Pradėkite diskusiją.
Rašyti komentarą
Komentarai publikuojami po moderavimo. Jūsų vardas ir komentaras bus vieši. Paskyra