Tenstorrent и ConfidentialMind сотрудничают для предоставления суверенного ИИ на открытых аппаратных платформах

Image: Tenstorrent · Source
Tenstorrent и ConfidentialMind объединяют усилия, предлагая самостоятельную платформу ИИ ConfidentialMind на системах Galaxy Blackhole от Tenstorrent, ориентированную на организации, требующие полного контроля над инфраструктурой ИИ в разных регионах мира.
Компания Tenstorrent, специализирующаяся на вычислениях для искусственного интеллекта, известная своими процессорами и системами на базе RISC-V, заключила партнёрство с ConfidentialMind — программной платформой, специализирующейся на развертывании генеративных приложений ИИ в частных средах. Вместе они внедряют самостоятельную платформу ИИ ConfidentialMind на аппаратных системах Galaxy Blackhole от Tenstorrent. Это совместное решение будет поставляться и продаваться в Европе, на Ближнем Востоке, в Азиатско-Тихоокеанском регионе и обеих Америках.
Это партнёрство ориентировано в первую очередь на организации, требующие суверенитета над своей инфраструктурой ИИ и данными, включая правительства, академические учреждения, регулируемые предприятия и поставщиков сервисов вывода. В настоящее время такие организации вынуждены создавать собственные платформы ИИ, интегрируя компоненты, такие как сервисы вывода, векторные базы данных, управление доступом, управление ускорителями и инструменты наблюдения. ConfidentialMind решает эту задачу, предоставляя программный слой развертывания и управления, в то время как Tenstorrent поставляет базовые кремниевые компоненты и серверные платформы.
Платформа ConfidentialMind прошла валидацию на сервере Tenstorrent Galaxy Blackhole — 6U-сервере с 32 процессорами Blackhole Tensix. Клиенты могут развернуть отдельную систему или масштабировать до супер-кластера в собственных дата-центрах. Портал самообслуживания платформы позволяет развёртывать открытые крупномасштабные языковые модели (LLM), конвейеры генерации с усиленным поиском (RAG) и ИИ-агентов, предоставляя совместимые с OpenAI конечные точки API. Платформа также поддерживает мультиарендность, коннекторы данных, управление ускорителями, наблюдаемость и ведение журналов для соответствия.
Грант Дженсен, руководитель экосистемы партнёров по программному обеспечению Tenstorrent, отметил, что клиенты ищут мощности ИИ, которой они полностью владеют и управляют на открытых системах. Слой развертывания ConfidentialMind поверх Galaxy Blackhole упрощает запуск задач ИИ, позволяя командам запускать LLM и агентов в собственных помещениях без необходимости строить сложные платформы с нуля.
Северии Тиккала, сооснователь и генеральный директор по Северной Америке в ConfidentialMind, подчеркнул важность сохранения данных на месте и избегания привязки к конкретному оборудованию. Он указал, что развертывание на аппаратуре Tenstorrent обеспечивает открытую инфраструктурную стеку с открытыми моделями и кремнием.
Tenstorrent поставляет оборудование и локальную поддержку по всему миру, а ConfidentialMind предоставляет программное обеспечение для развертывания, уже используемое в нескольких европейских университетах и хостинг-провайдерах. Такое сотрудничество создаёт суверенные ИИ-среды, в которых организации сохраняют полный контроль над своими ИИ-стеками и данными.
О компаниях: ConfidentialMind, основанная в 2023 году с штаб-квартирой в Эспоо, Финляндия, и офисом в Сан-Франциско, занимается разработкой программного обеспечения для развертывания генеративного ИИ на своей площадке. Tenstorrent под руководством генерального директора Джима Келлера проектирует и производит процессоры и системы ИИ на базе RISC-V и лицензирует свою интеллектуальную собственность крупным чипмейкерам, включая Samsung и LG. Tenstorrent поддерживают такие инвесторы, как Bezos Expeditions, Samsung, LG Electronics, Hyundai Motor Group и Fidelity. Их совместные усилия нацелены на ускорение глобального внедрения суверенного и открытого ИИ.




Источники и первоисточники
Read the original source ↗

Комментарии (0)
Комментариев пока нет. Начните обсуждение.
Написать комментарий
Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт