Anthropic предоставил исследователям METR доступ на уровне сотрудников для независимой оценки безопасности ИИ

Image: TechCrunch · Source

Anthropic предоставил шести исследователям из METR доступ в свои внутренние системы на уровне сотрудников для независимой оценки практик и рисков безопасности ИИ с обещанием публиковать непредвзятые отчёты без права вето.

Anthropic, ведущий разработчик передовых моделей ИИ, объявил о значительном шаге к повышению прозрачности и ответственности за безопасность, предоставив исследователям из некоммерческой организации METR доступ на уровне сотрудников к своим внутренним инструментам и информации. Эта договорённость позволяет шестым членам команды METR независимо оценивать модели ИИ Anthropic, управление рисками и процедуры безопасности, а также публиковать свои выводы без возможности Anthropic блокировать публикацию.

Эта инициатива адресует растущие опасения по поводу непредсказуемого поведения агентов ИИ, и различные инциденты, зарегистрированные с конца августа 2026 года, вызвали призывы к беспристрастным внешним проверкам. Anthropic описал сотрудничество по примеру банковских регуляторов, которые вводят постоянных экзаменаторов в крупные банки, где оценщики имеют широкий доступ, аналогичный собственным командам по оценке рисков Anthropic.

Исследователи METR получают ноутбуки, выданные Anthropic, офисное пространство и доступ почти ко всем внутренним данным, связанным с выравниванием и рисками безопасности. Сотрудников Anthropic поощряют делиться информацией с METR, как если бы они были внутренними коллегами. Исключениями являются узко определённые конфиденциальные данные, включая информацию о клиентах, материалы с адвокатской тайной и детальные архитектуры моделей.

Anthropic отказывается от права вето на публикации METR, хотя может запрашивать редактирование в указанных категориях данных. METR сохраняет право публично комментировать любые решения о редактировании.

Это сотрудничество представляет собой высший уровень из трёхуровневой системы оценщиков, которую развивает Anthropic. Нижние уровни, такие как биобезопасностная некоммерческая организация SecureBio, имеют более ограниченный доступ и требуют одобрения Anthropic для публикации обзоров.

Генеральный директор Anthropic Дарио Амодей ранее выступал за введение независимых оценщиков в лаборатории ИИ для сдерживания быстрого темпа развития ИИ — концепция, согласованная с обязательствами OpenAI, Google, Meta, Nvidia и других в соглашении Белого дома о независимом обзоре ИИ.

Кроме METR, Anthropic сотрудничает с SecureBio и Accenture в других ролях оценщиков, постепенно увеличивая уровень прозрачности и объём обзоров. Компания подчеркнула, что эти оценочные подходы являются добровольными, и все компании, занимающиеся передовыми ИИ, должны применять подобные практики для обеспечения безопасности и ответственности в отрасли.

Этот шаг направлен на сокращение информационного разрыва между разработчиками ИИ и внешними рецензентами, что в конечном итоге поможет обезопасить против рисков, связанных с всё более мощными системами ИИ.