Mākslīgais intelekts

Tenstorrent un ConfidentialMind sadarbojas suverēnas mākslīgā intelekta nodrošināšanai atvērtās aparatūras platformās

Tendela Briefing ·
4 skatījumi · 0 Komentāri
Tenstorrent un ConfidentialMind sadarbojas suverēnas mākslīgā intelekta nodrošināšanai atvērtās aparatūras platformās

Attēls: Tenstorrent · Avots

Tenstorrent un ConfidentialMind sadarbojas, lai piedāvātu ConfidentialMind pašpārvaldīto AI platformu Tenstorrent Galaxy Blackhole sistēmās, vēršoties pie organizācijām, kurām nepieciešama pilnīga kontrole pār AI infrastruktūru vairākās pasaules reģionos.

Tenstorrent, mākslīgā intelekta skaitļošanas uzņēmums, kas pazīstams ar saviem RISC-V bāzētajiem procesoriem un sistēmām, ir noslēdzis partnerību ar ConfidentialMind, programmatūras platformu, kas specializējusies ģeneratīvo mākslīgā intelekta lietojumprogrammu izvietošanā privātās vidēs. Kopā tie nodrošina ConfidentialMind pašpārvaldīto AI platformu uz Tenstorrent Galaxy Blackhole aparatūras sistēmām. Šis apvienotais risinājums tiks tirgots un pārdots visā Eiropā, Tuvajos Austrumos, Āzijas un Klusā okeāna reģionā un Amerikās.

Šī partnerība galvenokārt mērķēta uz organizācijām, kuras pieprasa suverenitāti pār savu AI infrastruktūru un datiem, tostarp valdības, akadēmiskās iestādes, reglamentētas uzņēmējdarbības un inferenču pakalpojumu sniedzēji. Pašlaik šīs organizācijas pašas sastāda savas AI platformas, integrējot tādas komponentes kā inferenču apkalpošana, vektoru datubāzes, piekļuves kontrole, paātrinātāju pārvaldība un uzraudzības rīki. ConfidentialMind risina šo izaicinājumu, nodrošinot izvietošanas un pārvaldības programmatūras slāni, kamēr Tenstorrent piegādā pamatā esošo silikonu un serveru platformas.

ConfidentialMind platforma ir pārbaudīta Tenstorrent Galaxy Blackhole serverī, kas ir 6U izmēra serveris ar 32 Blackhole Tensix procesoriem. Klienti var izvietot vienu sistēmu vai mērogot to līdz superklasterim savos datu centros. Platformas pašapkalpošanās portāls ļauj izvietot atvērtā koda lielos valodas modeļus (LLM), rezultātu papildinātas ģenerēšanas (RAG) cauruļvadus un AI aģentus, piedāvājot OpenAI saderīgus API galapunktus. Tā arī atbalsta multi-nomu vidi, datu savienojumus, paātrinātāju pārvaldību, uzraudzību un atbilstības reģistrēšanu.

Tenstorrent programmatūras partneru ekosistēmas vadītājs Grants Jensens uzsvēra, ka klienti vēlas AI kapacitāti, ko pilnībā pārvalda un operē paši uz atvērtām sistēmām. ConfidentialMind izvietošanas slānis Galaxy Blackhole virsū atvieglo AI darba slodžu palaišanu, ļaujot komandām darbināt LLM un aģentus savās telpās, neprasot izveidot sarežģītas platformas no sākuma.

ConfidentialMind Ziemeļamerikas līdzdibinātājs un ģenerāldirektors Severi Tikkala uzsvēra datu uzturēšanas vietējumu nozīmi un aparatūras piesaistes novēršanu. Viņš norādīja, ka izvietošana uz Tenstorrent aparatūras nodrošina atvērtas infrastruktūras kaudzi ar atvērtajiem modeļiem un silikonu.

Tenstorrent nodrošina aparatūru un vietējo atbalstu visā pasaulē, savukārt ConfidentialMind sniedz programmatūras izvietošanas pakalpojumus, kas jau darbojas vairākās Eiropas universitātēs un mitināšanas pakalpojumu sniedzējos. Šī sadarbība ļauj veidot suverēnas AI vides, kur organizācijas saglabā pilnīgu kontroli pār saviem AI stekiem un datiem.

Par uzņēmumiem: ConfidentialMind, dibināts 2023. gadā, ar galveno biroju Espo, Somijā, un biroju Sanfrancisko, koncentrējas uz ģeneratīvā AI izvietošanu uz vietas. Tenstorrent, kuru vada izpilddirektors Džims Kellers, projektē un izstrādā RISC-V AI procesorus un sistēmas un licencē savu IP lielākajiem mikroshēmu ražotājiem, tostarp Samsung un LG. Tenstorrent atbalsta investori, piemēram, Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group un Fidelity. Viņu kopējie centieni ir paātrināt suverēnas un atvērtas AI adopcijas globālā mērogā.

BackAnnouncementsNewsroomTenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open HardwareThe two companies validated ConfidentialMind’s self-hosted AI platform on Tenstorrent Galaxy and will sell it across Europe, the Middle East, As
BackAnnouncementsNewsroomTenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open HardwareThe two companies validated ConfidentialMind’s self-hosted AI platform on Tenstorrent Galaxy and will sell it across Europe, the Middle East, As · Avots ↗
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware · Avots ↗
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware · Avots ↗
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware · Avots ↗

Avoti un oriģinālziņas

Komentāri (0)

Komentāru vēl nav. Sāciet diskusiju.

Rakstīt komentāru

Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts