Anthropic przedstawia FlashProve — kryptograficzne potwierdzanie wyników modeli AI

Image: TechCrunch · Source

Anthropic wprowadza FlashProve, otwartoźródłowy system kryptograficzny umożliwiający weryfikację, czy odpowiedzi AI rzeczywiście pochodzą z określonych modeli, co zwiększa zaufanie i bezpieczeństwo w korzystaniu ze sztucznej inteligencji.

Anthropic opracowało FlashProve, otwartoźródłowy system zaprojektowany do kryptograficznej weryfikacji tożsamości modeli AI generujących konkretne wyniki. Opublikowany w listopadzie 2026 roku, ten projekt badawczy podejmuje istotne wyzwanie w interakcjach z AI: obecnie użytkownicy nie mają pewności, że odpowiedź pochodzi z dokładnie tego modelu AI, który deklaruje dostawca. FlashProve ma na celu rozwiązanie tego problemu poprzez umożliwienie „możliwości dowodzenia wnioskowania” („provable inference”), dostarczając dowody kryptograficzne, że dana odpowiedź została wygenerowana przez wskazany model AI.

Problem pojawia się, gdy organizacje lub osoby złośliwe mogą podmienić jeden model na inny bez wiedzy użytkowników — potencjalnie zmieniając na tańsze modele lub zawyżając deklarowane wyniki. FlashProve porównuje się do kryptograficznych podpisów e-mailowych, ponieważ do wyników AI dołączane są dowody, które można niezależnie i szybko zweryfikować, nawet na urządzeniach o skromnej mocy obliczeniowej.

Technicznie FlashProve wykorzystuje zkSNARKs (zero-knowledge succinct arguments of knowledge), protokół kryptograficzny pozwalający na udowodnienie stwierdzeń obliczeniowych bez ujawniania wrażliwych danych, takich jak wewnętrzne wagi modelu. System wymaga, by laboratoria AI opublikowały „odcisk palca” lub zobowiązanie do swoich wag modelu. Odciski te nie ujawniają samych wag, co chroni własność intelektualną, a jednocześnie umożliwia weryfikację.

Jeśli chodzi o wydajność, dla dużego modelu językowego Mixture-of-Experts, jak Llama 4 Maverick (400 miliardów parametrów, kwantyzacja 4-bitowa), generowanie dowodu osiąga około 110 tokenów na sekundę na pojedynczym GPU Nvidia H100, z rozmiarem dowodu wynoszącym około 19 MB na 1 024 tokeny. Weryfikacja na typowym CPU wielordzeniowym zajmuje tylko kilka sekund i nie wymaga specjalistycznego sprzętu. Generowanie dowodów jest jednak obliczeniowo intensywne — trwa około 70 do 95 razy dłużej niż samo wykonanie inferencji, lecz proces weryfikacji pozostaje lekki.

Potencjalne zastosowania obejmują potwierdzenie, że wyniki czy analizy rzeczywiście pochodzą z zaawansowanych lub zatwierdzonych modeli, co jest kluczowe dla klientów audytujących usługi AI lub regulatorów egzekwujących zgodność. System chroni także przed manipulacją na serwerach inferencyjnych — atakujący nie mogą sfałszować ważnych dowodów bez posiadania odpowiednich wag modelu.

Anthropic udostępnił kod FlashProve, formalne dowody weryfikacyjne napisane w asystencie dowodów Lean oraz obszerną dokumentację techniczną na licencji open-source Apache 2.0, zachęcając społeczność do rozwijania tego projektu. Podkreślają, że FlashProve to prototyp badawczy, nie wdrożony jeszcze w produkcji, a prace nad jego udoskonaleniami trwają.

Dzięki umożliwieniu kryptograficznego potwierdzenia wyników AI bez ujawniania własnościowych szczegółów modelu, FlashProve stanowi istotny krok w kierunku budowy zaufanych systemów AI, które mogą być rzetelnie audytowane i weryfikowane przez użytkowników, ewaluatorów oraz regulatorów.