Anthropic lanserer FlashProve for kryptografisk verifisering av AI-modellers utdata

Bilde: TechCrunch · Kilde

Anthropic introduserer FlashProve, et åpen kildekode kryptografisk system som muliggjør verifisering av om AI-svar virkelig stammer fra bestemte modeller, og styrker tilliten og sikkerheten i AI-bruk.

Anthropic har utviklet FlashProve, et åpen kildekodesystem designet for å kryptografisk verifisere identiteten til AI-modeller som produserer bestemte utdata. Publisert i november 2026, tar denne forskningen tak i en betydelig utfordring i AI-interaksjoner: brukere kan foreløpig ikke være sikre på at et svar faktisk kommer fra den eksakte AI-modellen som leverandøren oppgir. FlashProve har som mål å løse dette ved å muliggjøre "bevisbar inferens", og gir kryptografiske bevis på at et bestemt svar ble generert av en angitt AI-modell.

Problemet oppstår fordi organisasjoner eller ondsinnede aktører kan bytte ut en modell med en annen uten brukernes viten – muligens for å bytte til billigere modeller eller overdrive ytelsespåstander. FlashProve trekker paralleller til kryptografiske e-postsignaturer ved å knytte bevis til AI-utdata som kan verifiseres uavhengig og raskt, selv på enheter med begrenset regnekraft.

Teknisk bruker FlashProve zero-knowledge succinct arguments of knowledge (zkSNARKs), en type kryptografisk protokoll som tillater bevis på beregningsrelaterte påstander uten å avsløre sensitiv data som modellens interne vekter. Viktig er at systemet krever at AI-laboratorier publiserer et "fingeravtrykk" eller en forpliktelse til sine modellvekter. Disse fingeravtrykkene avslører ikke selve modellvektene, og sikrer dermed immaterielle rettigheter samtidig som verifisering muliggjøres.

Når det gjelder ytelse, for en stor Mixture-of-Experts språkmodell som Llama 4 Maverick (400 milliarder parametere, 4-bit kvantisering), kan et bevis genereres med omtrent 110 tokens per sekund på en enkelt Nvidia H100 GPU, med en bevisstørrelse på cirka 19 MB per 1 024 tokens. Verifisering på en typisk flerkjernet CPU tar bare noen sekunder og krever ikke spesialisert maskinvare. Selv om generering av bevis er beregningsintensivt – omtrent 70 til 95 ganger lenger enn bare å kjøre inferens – er verifiseringsprosessen lett.

Mulige anvendelser inkluderer å validere at utdata eller analyser virkelig kommer fra avanserte eller godkjente modeller, noe som er avgjørende for klienter som reviderer AI-tjenester eller regulatorer som håndhever overholdelse. Det beskytter også mot manipulering av inferensservere, ettersom angripere ikke kan forfalske gyldige bevis uten riktige modellvekter.

Anthropic har utgitt FlashProves kode, formelle verifiseringsbevis skrevet i Lean proof assistant, og omfattende teknisk dokumentasjon under en åpen kildekode lisens Apache 2.0, og inviterer samfunnet til å bygge videre på arbeidet deres. De understreker at FlashProve er en forskningsprototype, ikke ennå tatt i bruk i produksjon, med pågående undersøkelser for ytterligere forbedringer.

Ved å muliggjøre kryptografisk attestasjon av AI-utdata uten å kompromittere proprietære modelldetaljer, representerer FlashProve et betydelig steg mot å utvikle pålitelige AI-systemer som kan revideres og verifiseres pålitelig av brukere, evaluerere og regulatorer.