Anthropic lanserar FlashProve för kryptografisk verifiering av AI-modellers utdata

Bild: TechCrunch · Källa

Anthropic introducerar FlashProve, ett öppen källkodssystem som möjliggör verifiering av om AI-svar verkligen kommer från specifika modeller, vilket förbättrar förtroendet och säkerheten vid AI-användning.

Anthropic har utvecklat FlashProve, ett öppen källkodssystem som är utformat för att kryptografiskt verifiera identiteten på AI-modeller som genererar specifika utdata. Publicerad i november 2026, tar denna forskning itu med en betydande utmaning i AI-interaktioner: användare kan för närvarande inte vara säkra på att ett svar verkligen kommer från den exakta AI-modell som leverantören hävdar. FlashProve syftar till att lösa detta genom att möjliggöra "provbar inferens", vilket ger kryptografiska bevis på att ett visst svar genererats av en angiven AI-modell.

Problemet uppstår eftersom organisationer eller illvilliga aktörer kan byta ut en modell mot en annan utan användarnas vetskap – potentiellt för att byta till billigare modeller eller för att blåsa upp prestandapåståenden. FlashProve drar paralleller till kryptografiska e-postsignaturer genom att bifoga bevis till AI-utdata som kan verifieras oberoende och snabbt, även på enheter med begränsad beräkningskraft.

Tekniskt använder FlashProve zero-knowledge succinct arguments of knowledge (zkSNARKs), en typ av kryptografiskt protokoll som tillåter bevis för beräkningsrelaterade påståenden utan att avslöja känslig data såsom modellens interna vikter. Viktigt är att systemet kräver att AI-laboratorier publicerar ett "fingeravtryck" eller ett åtagande för sina modellvikter. Dessa fingeravtryck avslöjar inte modellvikterna själva, vilket bevarar immateriella rättigheter samtidigt som verifiering möjliggörs.

Prestandamässigt, för en stor Mixture-of-Experts-språkmodell som Llama 4 Maverick (400 miljarder parametrar, 4-bitars kvantisering), kan ett bevis genereras med cirka 110 tokens per sekund på en enskild Nvidia H100 GPU, med en bevisstorlek på ungefär 19 MB per 1 024 tokens. Verifiering på en typisk flerkärnig CPU tar bara några sekunder och kräver ingen specialiserad hårdvara. Även om produktionen av bevis är beräkningsintensiv – ungefär 70 till 95 gånger längre än att bara köra inferens – är verifieringsprocessen lättviktig.

Potentiella applikationer inkluderar att validera att utdata eller analyser verkligen kommer från avancerade eller godkända modeller, vilket är avgörande för klienter som granskar AI-tjänster eller regulatorer som upprätthåller efterlevnad. Det skyddar också mot manipulation av inferensservrar, eftersom angripare inte kan förfalska giltiga bevis utan rätt modellvikter.

Anthropic släppte FlashProves kod, formella verifieringsbevis skrivna i Lean proof assistant och omfattande teknisk dokumentation under en öppen källkodslicens Apache 2.0, och inbjuder samhället att vidareutveckla deras arbete. De betonar att FlashProve är en forskningsprototyp som ännu inte används i produktion, med pågående undersökningar för ytterligare förbättringar.

Genom att möjliggöra kryptografisk intygsbekräftelse av AI-utdata utan att kompromissa med proprietära modelldetaljer representerar FlashProve ett betydande steg mot att bygga pålitliga AI-system som kan revideras och verifieras pålitligt av användare, utvärderare och regulatorer.