Tenstorrent ja ConfidentialMind koostöös pakuvad suveräänset tehisintellekti avatud riistvaraplatvormidel

Pilt: Tenstorrent · Allikas
Tenstorrent ja ConfidentialMind on partnerid, et pakkuda ConfidentialMind'i ise majutatavat AI platvormi Tenstorrent'i Galaxy Blackhole süsteemidel, sihitud organisatsioonidele, kes vajavad täielikku kontrolli AI infrastruktuuri üle mitme maailma regiooni ulatuses.
Tenstorrent, RISC-V-põhiste protsessorite ja süsteemide poolest tuntud tehisintellekti arvutitehnikaga tegelev ettevõte, on sõlminud partnerluse ConfidentialMindiga, tarkvaraplatvormiga, mis on spetsialiseerunud genereeriva tehisintellekti rakenduste juurutamisele privaatsetes keskkondades. Koos toovad nad ConfidentialMind'i ise majutatava AI platvormi Tenstorrent'i Galaxy Blackhole riistvarasüsteemidele. See kombineeritud lahendus turustatakse ja müüakse Euroopas, Lähis-Idas, Aasias-Vaikse ookeani piirkonnas ja Ameerikates.
See partnerlus on suunatud peamiselt organisatsioonidele, kes nõuavad suveräänsust oma AI infrastruktuuri ja andmete üle, sealhulgas valitsused, teadusasutused, reguleeritud ettevõtted ja inference-teenuse pakkujad. Praegu peavad need organisatsioonid ise kokku panema oma AI platvormid, integreerides komponente nagu inference teenindamine, vektandmebaasid, ligipääsukontroll, kiirendi haldus ja jälgitavuse tööriistad. ConfidentialMind lahendab selle väljakutse, pakkudes juurutus- ja haldustarkvara kihi, samal ajal kui Tenstorrent tagab aluseks oleva pooljuhtide ja serveri platvormi.
ConfidentialMind'i platvorm on valideeritud Tenstorrent Galaxy Blackhole'il, 6U serveril, mis majutab 32 Blackhole Tensix protsessorit. Kliendid saavad juurutada üht süsteemi või skaleerida kuni superklastrini oma andmekeskustes. Platvormi enesehooldusportaal võimaldab avatud lähtekoodiga suurte keelemudelite (LLM-ide), otsingupõhiste generatsioonipõhimõtetega (RAG) torustike ja AI agentide juurutamist, pakkudes OpenAI ühilduvaid API otsapunkte. See toetab lisaks mitme kasutaja keskkonda, andmeühendusi, kiirendi haldust, jälgitavust ja vastavuslogimist.
Tenstorrent'i tarkvara partnerluse ökosüsteemi juhi Grant Jenseni sõnul soovivad kliendid AI võimekust, mida nad täielikult omavad ja avatud süsteemidel ise opereerivad. ConfidentialMind'i juurutuskiht Galaxy Blackhole'i peal lihtsustab AI töökoormuste käivitamist, võimaldades meeskondadel jooksutada LLM-e ja agente oma asutustes ilma vajaduseta keerukaid platvorme nullist ehitada.
ConfidentialMind'i Põhja-Ameerika kaasasutaja ja tegevjuht Severi Tikkala rõhutas andmete hoidmise tähtsust kohalikult ning riistvarasse lukustumise vältimist. Ta tõi välja, et Tenstorrent'i riistvaral juurutamine pakub avatud infrastruktuuripaletti koos avatud mudelite ja pooljuhtidega.
Tenstorrent tagab riistvara ja kohaliku toe üle maailma, samal ajal kui ConfidentialMind panustab tarkvara juurutustesse, mis on juba aktiivsed mitmes Euroopa ülikoolis ja majutusteenuse pakkujal. Koostöö võimaldab seega suveräänseid AI keskkondi, kus organisatsioonid hoiavad täielikku kontrolli oma AI virna ja andmete üle.
Ettevõtetest: ConfidentialMind, asutatud 2023. aastal, pea kontor Espoos, Soomes, ja kontor San Franciscos, keskendub tugiteenustele generaatiivse tehisintellekti kohapealsele juurutamisele. Tenstorrent, mida juhib tegevjuht Jim Keller, disainib ja toodab RISC-V AI protsessoreid ja süsteeme ning litsentseerib oma intellektuaalomandit suurematele kiibitootjatele nagu Samsung ja LG. Tenstorrent'i toetavad investorid nagu Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group ja Fidelity. Nende ühine püüdlus on kiirendada suverääni ja avatud AI laiapõhjalist kasutuselevõttu globaalsete turgude ulatuses.




Allikad ja originaaluudised
Loe originaali allikat ↗

Kommentaarid (0)
Kommentaare veel pole. Alusta arutelu.
Kirjuta kommentaar
Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto