Anthropic представляет FlashProve для криптографической проверки результатов моделей ИИ

Image: TechCrunch · Source

Anthropic анонсирует FlashProve — открытый криптографический инструмент, позволяющий подтвердить, что ответы ИИ действительно исходят от конкретных моделей, повышая доверие и безопасность при использовании искусственного интеллекта.

Компания Anthropic разработала FlashProve — открытый криптографический инструмент, предназначенный для проверки происхождения конкретных результатов, сгенерированных моделями ИИ. Опубликованное в ноябре 2026 года исследование решает важную проблему взаимодействия с ИИ: пользователи не могут быть уверены, что ответ действительно исходит от заявленной поставщиком модели. FlashProve обеспечивает «доказуемое заключение» (provable inference), предоставляя криптографические доказательства того, что конкретный результат создан именно указанной моделью ИИ.

Проблема возникает из-за того, что организации или злоумышленники могут заменить одну модель другой без ведома пользователей — например, переключившись на более дешёвые модели или завысив характеристики. FlashProve сравним с криптографической электронной подписью, поскольку к выходным данным ИИ прикрепляются доказательства, которые можно быстро и независимо проверить, даже на устройствах с невысокими вычислительными ресурсами.

С технической точки зрения FlashProve использует zkSNARKs (zero-knowledge succinct arguments of knowledge) — криптопротокол, позволяющий доказывать вычислительные утверждения без раскрытия конфиденциальных данных, таких как внутренние веса модели. Система требует, чтобы лаборатории ИИ публиковали «отпечаток» или коммитмент к весам модели. Эти отпечатки не раскрывают сами веса, что сохраняет интеллектуальную собственность и при этом позволяет проверять подлинность.

По производительности, для крупной модели языка Mixture-of-Experts, такой как Llama 4 Maverick (400 миллиардов параметров, 4-битовая квантизация), создание доказательства происходит примерно со скоростью 110 токенов в секунду на одном графическом процессоре Nvidia H100, при размере доказательства около 19 МБ на 1024 токена. Верификация на обычном многоядерном CPU занимает всего несколько секунд и не требует специализированного оборудования. Генерация доказательств весьма требовательна к вычислениям — занимает примерно в 70–95 раз больше времени, чем сама инференция, однако процесс проверки лёгкий.

Среди потенциальных применений — подтверждение того, что результаты или аналитика действительно создаются продвинутыми или одобренными моделями, что важно для клиентов, проводящих аудит AI-сервисов, или регуляторов, обеспечивающих соответствие. FlashProve также защищает от подмены на серверах инференса, так как злоумышленники не смогут сгенерировать валидное доказательство без правильных весов модели.

Anthropic опубликовал исходный код FlashProve, формальные доказательства верификации, написанные в системе Lean, а также обширную техническую документацию под лицензией Apache 2.0 с открытым исходным кодом, приглашая сообщество развивать разработку. Отмечается, что FlashProve — прототип исследовательского характера, ещё не внедрён в промышленную эксплуатацию, и продолжаются работы по его улучшению.

Обеспечивая криптографическую аттестацию выходных данных ИИ без раскрытия коммерчески чувствительных деталей модели, FlashProve представляет собой важный шаг на пути создания надёжных систем ИИ, которые могут надежно проверяться аудиторами, пользователями и регуляторами.