Anthropic pristato FlashProve – kriptografinę sistemą AI modelių atsakymų patikrai

Vaizdas: TechCrunch · Šaltinis

Anthropic pristato FlashProve, atvirojo kodo kriptografinę sistemą, kuri leidžia patikrinti, ar AI atsakymai tikrai kilo iš konkrečių modelių, taip didinant pasitikėjimą ir saugumą dirbtinio intelekto naudojime.

Anthropic sukūrė FlashProve – atvirojo kodo sistemą, skirtą kriptografiškai patikrinti, ar tam tikras AI modelis sukūrė konkrečius rezultatus. Ši 2026 m. lapkritį paskelbta tyrimo sistema sprendžia svarbią problemą AI interakcijose: vartotojai šiuo metu negali būti tikri, ar atsakymas tikrai atkeliavo iš būtent to modelio, kurį nurodo paslaugos teikėjas. FlashProve siekia tai išspręsti įdiegiant „įrodytinę išvadą“ (angl. "provable inference"), suteikdama kriptografinius įrodymus, kad konkretus atsakymas buvo sugeneruotas paskirtu AI modeliu.

Ši problema kyla todėl, kad organizacijos ar net kenkėjiški veikėjai gali pakeisti vieną modelį kitu be vartotojų žinios – pavyzdžiui, pereiti prie pigesnių modelių ar išpūsti veikimo rodiklius. FlashProve analogiška kriptografiniams el. pašto parašams, nes prie AI rezultato pridedami įrodymai, kurie gali būti nepriklausomai ir greitai patikrinti net ir įrenginiuose su ribotomis skaičiavimo galimybėmis.

Techniniu požiūriu FlashProve naudoja nulio žinių glaustus žinių argumentus (zkSNARKs) – kriptografinį protokolą, leidžiantį įrodyti skaičiavimų teisingumą neatskleidžiant jautrių duomenų, tokių kaip modelio svoriai. Svarbu, kad sistema reikalauja, jog AI laboratorijos paskelbtų „pirštų atspaudą“ arba įsipareigojimą savo modelio svoriams. Šie pirštų atspaudai neatskleidžia pačių svorių, taip saugodami intelektinę nuosavybę, tačiau leidžia įrodymus patvirtinti.

Kalbant apie našumą, dideliam Mixture-of-Experts kalbos modeliui, tokiam kaip Llama 4 Maverick (400 mlrd. parametrų, 4 bitų kvantizacija), įrodymo generavimas vyksta maždaug 110 žodžių per sekundę greičiu vienoje Nvidia H100 GPU, o įrodymo dydis siekia apie 19 MB per 1 024 žodžių. Patvirtinimas įprastame daugiasistemių branduolių CPU užtrunka tik kelias sekundes ir nereikalauja specialios įrangos. Nors įrodymų generavimas yra skaičiavimo intensyvus – apie 70–95 kartų lėtesnis nei paprastas išvados skaičiavimas, jų patvirtinimas yra lengvas.

Galimos taikymo sritys apima patikrinimą, ar rezultatai ar analizė tikrai kilę iš pažangių ar patvirtintų modelių, kas yra svarbu klientams, tikrinantiems AI paslaugas, ar reguliuotojams, užtikrinantiems atitiktį. Tai taip pat apsaugo nuo išpuolių prieš išvados serverius, nes užpuolėjai negali suklastoti galiojančių įrodymų be teisingų modelio svorių.

Anthropic paskelbė FlashProve kodą, formalius patvirtinimo įrodymus, parašytus Lean įrodymų asistente, ir išsamią techninę dokumentaciją pagal atvirojo kodo Apache 2.0 licenciją, kviesdama bendruomenę plėtoti šį darbą. Jie pabrėžia, kad FlashProve yra tyrimų prototipas, dar neįdiegtas gamyboje, ir toliau tiriama, kaip jį patobulinti.

Įgalindama kriptografinį AI rezultatų liudijimą neatskleidžiant modelio detalių, FlashProve žymi svarbų žingsnį link patikimų AI sistemų, kurias vartotojai, vertintojai ir reguliuotojai galėtų patikimai tikrinti ir auditinti.