Tenstorrent og ConfidentialMind samarbeider for å levere suveren AI på åpne maskinvareplattformer

Bilde: Tenstorrent · Kilde
Tenstorrent og ConfidentialMind inngår samarbeid for å tilby ConfidentialMinds selvhostede AI-plattform på Tenstorrents Galaxy Blackhole-systemer, rettet mot organisasjoner som krever full kontroll over AI-infrastruktur på tvers av flere globale regioner.
Tenstorrent, et AI-beregningsselskap kjent for sine RISC-V-baserte prosessorer og systemer, har inngått samarbeid med ConfidentialMind, en programvareplattform som spesialiserer seg på å distribuere generative AI-applikasjoner i private miljøer. Sammen bringer de ConfidentialMinds selvhostede AI-plattform til Tenstorrents Galaxy Blackhole maskinvare. Denne kombinerte løsningen vil bli markedsført og solgt i Europa, Midtøsten, Asia-Stillehavsregionen og Amerika.
Dette partnerskapet retter seg primært mot organisasjoner som krever suverenitet over sin AI-infrastruktur og data, inkludert myndigheter, akademiske institusjoner, regulerte virksomheter og tjenesteleverandører innen inferens. For tiden må disse organisasjonene selv sette sammen sine AI-plattformer ved å integrere komponenter som inferenstjenester, vektordatabaser, tilgangskontroll, akseleratorhåndtering og observasjonsverktøy. ConfidentialMind løser denne utfordringen ved å tilby distribusjons- og administrasjonsprogramvarelaget, mens Tenstorrent leverer underliggende silisium og serverplattformer.
ConfidentialMinds plattform er validert på Tenstorrent Galaxy Blackhole, en 6U-server som huser 32 Blackhole Tensix-prosessorer. Kunder kan distribuere et enkelt system eller skalere til et superklynge innen egne datasentre. Plattformens selvbetjeningsportal muliggjør distribusjon av åpne store språkmodeller (LLM), retrieval-augmented generation (RAG)-pipelines og AI-agenter med OpenAI-kompatible API-endepunkter. Den støtter også multi-leietaket, datakoblinger, akseleratorhåndtering, observabilitet og samsvarslogging.
Grant Jensen, leder for programvarepartnerøkosystemet hos Tenstorrent, fremhevet at kunder ønsker AI-kapasitet de fullt eier og drifter på åpne systemer. ConfidentialMinds distribusjonslag på toppen av Galaxy Blackhole forenkler utrulling av AI-arbeidsbelastninger, slik at team kan kjøre LLM og agenter i egne fasiliteter uten å måtte bygge komplekse plattformer fra bunnen av.
Severi Tikkala, medgrunnlegger og daglig leder for Nord-Amerika i ConfidentialMind, understreket viktigheten av å beholde data på stedet og unngå låsing til maskinvare. Han påpekte at utrulling på Tenstorrents maskinvare gir en åpen infrastrukturområde med åpne modeller og silisium.
Tenstorrent leverer maskinvaren og lokal støtte globalt, mens ConfidentialMind bidrar med programvarudistribusjoner som allerede er aktive ved flere europeiske universiteter og hosting-leverandører. Samarbeidet muliggjør dermed suverene AI-miljøer hvor organisasjoner beholder full kontroll over sine AI-stakker og data.
Om selskapene: ConfidentialMind, grunnlagt i 2023 med hovedkontor i Espoo, Finland, og et kontor i San Francisco, fokuserer på programvare for distribusjon av generativ AI på stedet. Tenstorrent, ledet av administrerende direktør Jim Keller, designer og bygger RISC-V AI-prosessorer og systemer og lisensierer sin IP til store chip-produsenter som Samsung og LG. Tenstorrent støttes av investorer som Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group og Fidelity. Deres felles innsats har som mål å akselerere global adopsjon av suveren og åpen AI.




Kilder og originalrapportering
Les originalkilden ↗

Kommentarer (0)
Ingen kommentarer ennå. Start diskusjonen.
Skriv en kommentar
Kommentarer publiseres etter moderering. Ditt navn og kommentar vil være synlige offentlig. Konto