Anthropic prezentē FlashProve — kriptogrāfisku AI modeļu izvades pārbaudi nodrošinošu risinājumu

Attēls: TechCrunch · Avots

Anthropic izveidojis FlashProve, atvērtā koda kriptogrāfisku sistēmu, kas ļauj pārbaudīt, vai AI atbildes patiesi radītas no konkrētiem modeļiem, tādējādi veicinot uzticību un drošību AI izmantošanā.

Anthropic ir izstrādājis FlashProve, atvērtā koda sistēmu, kas paredzēta AI modeļu identitātes kriptogrāfiskai pārbaudei, kas ražo konkrētas izvades. 2026. gada novembrī publicētajā pētījumā risināts nozīmīgs izaicinājums AI mijiedarbībā: lietotāji pašlaik nevar būt pilnīgi pārliecināti, ka saņemtā atbilde patiesi nāk no tā modeļa, kuru sniedzējs apgalvo. FlashProve mērķis ir šo problēmu novērst, ļaujot veikt "pierādāmu secināšanu" ar kriptogrāfiskiem pierādījumiem, kas apliecina, ka konkrēta atbilde ir radīta noteiktā AI modelī.

Problēma rodas tāpēc, ka organizācijas vai ļaunprātīgas personas var nemanāmi aizvietot vienu modeli ar citu — piemēram, lētāku modeli vai tādu, kurš pārspīlē veiktspējas rādītājus. FlashProve var salīdzināt ar kriptogrāfiskām e-pasta parakstēm, jo tas pievieno pierādījumus AI izvades rezultātiem, kurus var neatkarīgi un ātri pārbaudīt pat ierīcēs ar ierobežotu skaitļošanas jaudu.

Tehniski FlashProve izmanto nulles zināšanu īsu pierādījumu argumentus (zkSNARK), kriptogrāfisku protokolu, kas ļauj pierādīt aprēķinu apgalvojumus, neatklājot sensitīvus datus, piemēram, modeļa iekšējos svarus. Būtiski, ka sistēma prasa AI laboratorijām publicēt „pirkstu nospiedumu” jeb saistību ar savu modeļu svariem. Šie pirkstu nospiedumi neatklāj pašus modeļa svarus, tādējādi saglabājot intelektuālo īpašumu un vienlaikus ļaujot veikt pārbaudi.

Veiktspējas ziņā, lielam Mixture-of-Experts valodas modelim, piemēram, Llama 4 Maverick (400 miljardi parametru, 4 bitu kvantizācija), pierādījumu ģenerēšana notiek apmēram 110 tokenu sekundē uz viena Nvidia H100 GPU, pierādījumu lielums ir aptuveni 19 MB par 1024 tokeniem. Parastā daudzkodolu CPU pārbaude aizņem tikai dažas sekundes un neprasa speciālu aparatūru. Lai gan pierādījumu radīšana ir skaitļošanas intensīva — aptuveni 70 līdz 95 reizes ilgāka nekā tikai secināšanas process — pārbaudes posms ir viegls.

Iespējamās lietojumprogrammas ietver pārbaudi, ka izvades vai analīzes tiešām rodas no attīstītiem vai apstiprinātiem modeļiem, kas ir kritiski klientiem, kas auditu veic AI pakalpojumos, vai regulatoriem, kas nodrošina atbilstību. Tas arī aizsargā pret manipulācijām ar secinājumu serveriem, jo uzbrucēji bez pareizajiem modeļa svariem nevar viltot derīgus pierādījumus.

Anthropic ir publicējis FlashProve kodu, formālās pārbaudes pierādījumus, kas rakstīti Lean pierādījumu palīgprogrammā, un plašu tehnisko dokumentāciju ar atvērta pirmkoda Apache 2.0 licenci, aicinot kopienu attīstīt šo darbu tālāk. Viņi uzsver, ka FlashProve ir pētniecības prototips, vēl nav ieviests ražošanā un tiek turpinātas pētījumu veikšanas darbības tālākajai uzlabošanai.

Ar iespēju nodrošināt kriptogrāfisku AI izvades apliecināšanu, nekaitējot patentētiem modeļa datiem, FlashProve ir nozīmīgs solis uzticamu AI sistēmu izveidē, ko lietotāji, novērotāji un regulatori var pārliecinoši audita un pārbaudē.