Anthropic tutvustab FlashProve'i AI mudelite väljundite krüptograafiliseks kinnitamiseks

Pilt: TechCrunch · Allikas

Anthropic esitleb FlashProve'i, avatud lähtekoodiga krüptograafilist süsteemi, mis võimaldab kontrollida, kas AI vastused pärinevad tõepoolest kindlatest mudelitest, suurendades AI kasutamise usaldusväärsust ja turvalisust.

Anthropic on välja töötanud FlashProve'i, avatud lähtekoodiga süsteemi, mis on mõeldud AI mudelite identiteedi krüptograafiliseks kinnitamiseks kindlate väljundite loomisel. 2026. aasta novembris avaldatud uurimus käsitleb olulist väljakutset AI interaktsioonides: kasutajad ei saa praegu kindlad olla, kas vastus pärineb täpselt sellest AI mudelist, mida teenusepakkuja väidab. FlashProve'i eesmärk on seda lahendada, võimaldades "tõestatavat järeldamist", pakkudes krüptograafilisi tõendeid selle kohta, et konkreetse vastuse on genereerinud määratud AI mudel.

Probleem tekib seetõttu, et organisatsioonid või pahaloomulised osalised võivad kasutajate teadmata asendada ühe mudeli teisega — näiteks odavama mudeliga või liialdatud jõudluslubadustega. FlashProve'i võib võrrelda krüptograafiliste e-kirja allkirjadega, kuna see lisab AI väljunditele tõendid, mida saab iseseisvalt ja kiiresti kontrollida, isegi tagasihoidliku arvutusvõimsusega seadmetel.

Tehniliselt kasutab FlashProve null-teadmiste kokkuvõtlikke teadmiste argumente (zkSNARKe), krüptograafilist protokolli, mis võimaldab tõestada arvutuslikke väiteid ilma tundlikku teavet, nagu mudeli sisemisi kaalusid, avalikustamata. Oluline on, et süsteem nõuab AI laborite poolt mudeli kaalude "sõrmejälje" või kohustuse avaldamist. Need sõrmejäljed ei avalda mudeli kaale endid, säilitades sel viisil intellektuaalomandi ja võimaldades samas kontrolli.

Jõudluse mõttes suudab suur Mixture-of-Experts keelemudel nagu Llama 4 Maverick (400 miljardit parameetrit, 4-bitine kvantimine) tõendada umbes 110 tokenit sekundis Nvidia H100 GPU-l, tõendi suurus on ligikaudu 19 MB iga 1024 tokeni kohta. Tavalisel mitmetuumalisel CPU-l võtab kinnitamine vaid mõne sekundi ega nõua spetsiaalset riistvara. Kuigi tõendite genereerimine on arvutuslikult intensiivne — umbes 70 kuni 95 korda aeglasem kui pelgalt järeldusprotsess — on kinnitamine kerge.

Võimalikud rakendused hõlmavad tõendamist, et väljundid või analüüsid pärinevad tõepoolest arenenud või heaks kiidetud mudelitest, mis on oluline klientidele AI teenuste auditeerimisel või reguleerijatele nõuete jõustamisel. Samuti kaitseb süsteem järeldusserverite manipuleerimise eest, sest ründajad ei saa ilma õige mudeli kaaludeta kehtivaid tõendeid võltsida.

Anthropic avaldas FlashProve'i koodi, Lean tõestusabistaja abil kirjutatud formaalsed tõendid ja põhjaliku tehnilise dokumentatsiooni avatud lähtekoodi Apache 2.0 litsentsi all, kutsudes kogukonda oma tööd edasi arendama. Nad rõhutavad, et FlashProve on uurimusprototüüp, mida tootmiskeskkonnas veel ei kasutata ning mille täiustamist jätkatakse.

Krüptograafilise kinnituse võimaldamine AI väljundite puhul ilma ettevõttepatente rikkuvate detailideta muudab FlashProve oluliseks sammuks usaldusväärsete AI süsteemide suunas, mida kasutajad, hindajad ja reguleerijad saavad usaldusväärselt auditeerida ja kontrollida.