Tenstorrent i ConfidentialMind współpracują, aby dostarczyć suwerenną sztuczną inteligencję na otwartych platformach sprzętowych

Image: Tenstorrent · Source
Tenstorrent i ConfidentialMind nawiązują współpracę, oferując platformę sztucznej inteligencji ConfidentialMind do samodzielnego hostingu na systemach Galaxy Blackhole firmy Tenstorrent, skierowaną do organizacji wymagających pełnej kontroli nad infrastrukturą AI w różnych regionach świata.
Tenstorrent, firma specjalizująca się w obliczeniach AI, znana z procesorów i systemów opartych na RISC-V, nawiązała współpracę z ConfidentialMind, platformą programową specjalizującą się w wdrażaniu generatywnych aplikacji AI w prywatnych środowiskach. Razem wprowadzają platformę ConfidentialMind do samodzielnego hostingu na sprzętowych systemach Galaxy Blackhole firmy Tenstorrent. To połączone rozwiązanie będzie oferowane i sprzedawane w Europie, na Bliskim Wschodzie, na rynkach Azji i Pacyfiku oraz w obu Amerykach.
Partnerstwo to skierowane jest przede wszystkim do organizacji wymagających suwerenności nad infrastrukturą AI i danymi, w tym rządów, instytucji akademickich, przedsiębiorstw regulowanych oraz dostawców usług inferencyjnych. Obecnie te organizacje muszą samodzielnie tworzyć swoje platformy AI, integrując komponenty takie jak serwery inferencyjne, bazy danych wektorowych, kontrolę dostępu, zarządzanie akceleratorami oraz narzędzia do obserwacji. ConfidentialMind adresuje to wyzwanie, zapewniając warstwę oprogramowania do wdrażania i zarządzania, podczas gdy Tenstorrent dostarcza bazowe krzemowe układy i platformy serwerowe.
Platforma ConfidentialMind została zweryfikowana na serwerze Tenstorrent Galaxy Blackhole, który mieści 32 procesory Blackhole Tensix w obudowie 6U. Klienci mogą wdrożyć pojedynczy system lub skalować do superklastra w swoich własnych centrach danych. Portal samoobsługowy platformy umożliwia wdrażanie otwartych modeli językowych (LLM), pipeline'ów generacji wspomaganej wyszukiwaniem (RAG) oraz agentów AI, oferując zgodne z OpenAI punkty końcowe API. Wspiera również multi-tenancy, konektory danych, zarządzanie akceleratorami, obserwowalność oraz logowanie zgodności.
Grant Jensen, Dyrektor Ekosystemu Partnerów Oprogramowania w Tenstorrent, podkreślił, że klienci poszukują mocy obliczeniowej AI, którą w pełni posiadają i obsługują na otwartych systemach. Warstwa wdrożeniowa ConfidentialMind na platformie Galaxy Blackhole upraszcza uruchamianie zadań AI, umożliwiając zespołom uruchamianie modeli LLM i agentów w ich własnych ośrodkach bez konieczności budowy złożonych platform od podstaw.
Severi Tikkala, współzałożyciel i dyrektor generalny na Amerykę Północną w ConfidentialMind, podkreślił znaczenie utrzymania danych na miejscu oraz unikania uzależnienia od konkretnego sprzętu. Zwrócił uwagę, że wdrażanie na sprzęcie Tenstorrent oferuje otwartą infrastrukturę z otwartymi modelami i układami krzemowymi.
Tenstorrent dostarcza sprzęt i lokalne wsparcie na całym świecie, podczas gdy ConfidentialMind zapewnia oprogramowanie do wdrożeń, które działa już w kilku europejskich uniwersytetach i dostawcach usług hostingowych. Współpraca umożliwia tworzenie suwerennych środowisk AI, w których organizacje zachowują pełną kontrolę nad swoimi stosami AI i danymi.
O firmach: ConfidentialMind, założona w 2023 roku z siedzibą w Espoo w Finlandii oraz biurem w San Francisco, koncentruje się na oprogramowaniu do wdrażania generatywnej AI na miejscu. Tenstorrent, kierowane przez CEO Jima Kellera, projektuje i buduje procesory AI oparte na RISC-V oraz systemy, a także licencjonuje swoje IP największym producentom chipów, w tym Samsung i LG. Tenstorrent jest wspierane przez inwestorów takich jak Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group oraz Fidelity. Ich wspólne działania mają na celu przyspieszenie globalnej adopcji suwerennej i otwartej AI.




Źródła i oryginalne doniesienia
Read the original source ↗

Komentarze (0)
Nie ma jeszcze komentarzy.
Napisz komentarz
Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto