AI

Tenstorrent и ConfidentialMind сотрудничают для предоставления суверенного ИИ на открытых аппаратных платформах

Tendela Briefing ·
4 просмотров · 0 Комментарии
Tenstorrent и ConfidentialMind сотрудничают для предоставления суверенного ИИ на открытых аппаратных платформах

Image: Tenstorrent · Source

Tenstorrent и ConfidentialMind объединяют усилия, предлагая самостоятельную платформу ИИ ConfidentialMind на системах Galaxy Blackhole от Tenstorrent, ориентированную на организации, требующие полного контроля над инфраструктурой ИИ в разных регионах мира.

Компания Tenstorrent, специализирующаяся на вычислениях для искусственного интеллекта, известная своими процессорами и системами на базе RISC-V, заключила партнёрство с ConfidentialMind — программной платформой, специализирующейся на развертывании генеративных приложений ИИ в частных средах. Вместе они внедряют самостоятельную платформу ИИ ConfidentialMind на аппаратных системах Galaxy Blackhole от Tenstorrent. Это совместное решение будет поставляться и продаваться в Европе, на Ближнем Востоке, в Азиатско-Тихоокеанском регионе и обеих Америках.

Это партнёрство ориентировано в первую очередь на организации, требующие суверенитета над своей инфраструктурой ИИ и данными, включая правительства, академические учреждения, регулируемые предприятия и поставщиков сервисов вывода. В настоящее время такие организации вынуждены создавать собственные платформы ИИ, интегрируя компоненты, такие как сервисы вывода, векторные базы данных, управление доступом, управление ускорителями и инструменты наблюдения. ConfidentialMind решает эту задачу, предоставляя программный слой развертывания и управления, в то время как Tenstorrent поставляет базовые кремниевые компоненты и серверные платформы.

Платформа ConfidentialMind прошла валидацию на сервере Tenstorrent Galaxy Blackhole — 6U-сервере с 32 процессорами Blackhole Tensix. Клиенты могут развернуть отдельную систему или масштабировать до супер-кластера в собственных дата-центрах. Портал самообслуживания платформы позволяет развёртывать открытые крупномасштабные языковые модели (LLM), конвейеры генерации с усиленным поиском (RAG) и ИИ-агентов, предоставляя совместимые с OpenAI конечные точки API. Платформа также поддерживает мультиарендность, коннекторы данных, управление ускорителями, наблюдаемость и ведение журналов для соответствия.

Грант Дженсен, руководитель экосистемы партнёров по программному обеспечению Tenstorrent, отметил, что клиенты ищут мощности ИИ, которой они полностью владеют и управляют на открытых системах. Слой развертывания ConfidentialMind поверх Galaxy Blackhole упрощает запуск задач ИИ, позволяя командам запускать LLM и агентов в собственных помещениях без необходимости строить сложные платформы с нуля.

Северии Тиккала, сооснователь и генеральный директор по Северной Америке в ConfidentialMind, подчеркнул важность сохранения данных на месте и избегания привязки к конкретному оборудованию. Он указал, что развертывание на аппаратуре Tenstorrent обеспечивает открытую инфраструктурную стеку с открытыми моделями и кремнием.

Tenstorrent поставляет оборудование и локальную поддержку по всему миру, а ConfidentialMind предоставляет программное обеспечение для развертывания, уже используемое в нескольких европейских университетах и хостинг-провайдерах. Такое сотрудничество создаёт суверенные ИИ-среды, в которых организации сохраняют полный контроль над своими ИИ-стеками и данными.

О компаниях: ConfidentialMind, основанная в 2023 году с штаб-квартирой в Эспоо, Финляндия, и офисом в Сан-Франциско, занимается разработкой программного обеспечения для развертывания генеративного ИИ на своей площадке. Tenstorrent под руководством генерального директора Джима Келлера проектирует и производит процессоры и системы ИИ на базе RISC-V и лицензирует свою интеллектуальную собственность крупным чипмейкерам, включая Samsung и LG. Tenstorrent поддерживают такие инвесторы, как Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group и Fidelity. Их совместные усилия нацелены на ускорение глобального внедрения суверенного и открытого ИИ.

BackAnnouncementsNewsroomTenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open HardwareThe two companies validated ConfidentialMind’s self-hosted AI platform on Tenstorrent Galaxy and will sell it across Europe, the Middle East, As
BackAnnouncementsNewsroomTenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open HardwareThe two companies validated ConfidentialMind’s self-hosted AI platform on Tenstorrent Galaxy and will sell it across Europe, the Middle East, As · Источник ↗
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware · Источник ↗
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware · Источник ↗
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware
Tenstorrent and ConfidentialMind Partner to Deliver Sovereign AI on Open Hardware · Источник ↗

Источники и первоисточники

Source: Tenstorrent
Read the original source ↗

Комментарии (0)

Комментариев пока нет. Начните обсуждение.

Написать комментарий

Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт