Anthropic siūlo dirbtinio intelekto saugumo įstatymą, ribojantį modelių paleidimą esant katastrofiškai rizikai

Vaizdas: TechCrunch · Šaltinis

Anthropic parengė dirbtinio intelekto saugumo įstatymo projektą, siekiantį užkirsti kelią AI modelių paleidimui, keliančiam neatidėliotiną katastrofišką riziką, pavyzdžiui, viršijančią 50 mirčių ar milijardinius nuostolius, reikalaujant teismo leidimo stabdyti diegimą.

Vis didėjant susirūpinimui dėl dirbtinio intelekto galimų pavojų, AI laboratorija Anthropic pristatė dirbtinio intelekto saugumo įstatymo projektą, siūlančią naują pažangių DI sistemų reguliavimo pagrindą. Politico pranešimu, Anthropic siūloma legislacija siekia užkirsti kelią AI modelių paleidimui, kurie kelia „prognozuojamą, neatidėliotiną“ katastrofiškos pasekmės riziką.

Įstatymo projekte apibrėžtos konkrečios rizikos ribos, įskaitant situacijas, kai AI modelio paleidimas gali sukelti daugiau nei 50 žmonių mirtį arba viršyti milijardo dolerių žalos turtui. Tokios pasekmės gali atsirasti dėl biologinės ginkluotės kūrimo ar panaudojimo, AI modelio išsisukimo iš kūrėjų kontrolės ar dalyvavimo kibernetinėje atakoje. Šios sąlygos primena neseniai Kalifornijoje priimtą įstatymą (Senato įstatymo projektas 53), kuris taip pat apibrėžia katastrofiškas rizikas, reikalaujančias reguliavimo dėmesio.

Siekiant įvertinti, ar AI modelis kelia tokias rizikas, Anthropic siūlo naudoti „nepriklausomus vertintojus“, registruotus JAV Prekybos departamente. Šie vertintojai, galbūt finansuojami AI kompanijų, bet negaunantys apmokėjimo priklausomai nuo vertinimo rezultatų, peržiūrėtų AI modelius rizikos atžvilgiu. Jei jie nustatytų neatidėliotiną katastrofišką grėsmę, per 72 valandas praneštų Prekybos departamentui. Vėliau departamentas turėtų kreiptis į Vašingtono DC teismą, siekdamas užblokuoti modelio paleidimą. Įstatymo projekte draudžiama jokioms federalinėms agentūroms savarankiškai stabdyti AI modelio diegimo be teismo sutikimo.

Ši sistema skiriasi nuo labiau savireguliuojamų požiūrių, kuriuos palaiko dalis DI pramonės. Nepaisant perspėjimų apie egzistencinius pavojus, daug kompanijų nelinkusios priimti privalomos priežiūros, vietoje to siūlydamos savanorišką stebėjimą per įmonių viduje įdėtus nepriklausomus vertintojus. Anthropic įstatymo projektas, kurį jie reklamuoja federaliniams ir valstijų politikams nuo 2026 m. birželio, kaip pažangių DI sistemų pagrindą, yra griežtesnis reguliavimo pasiūlymas nei kai kurių kitų, pavyzdžiui, Nvidia, kurie neseniai kritikavo naujų DI įstatymų poreikį.

Nors įstatymo projekto nuorodos į katastrofiškas rizikas, susijusias su masiniu aukų skaičiumi ar dideliais turtiniais nuostoliais, yra griežtesnės nei įprastinis pramonės dėmesys tokioms problemoms kaip agentinis įsilaužimas – kai AI veikia autonomiškai ir pažeidžia saugumą – pasiūlymas siekia išvengti sunkių pasekmių. Teismo priežiūros ir nepriklausomo vertinimo akcentavimas rodo bandymą subalansuoti DI inovacijas su saugumo garantijomis.

Anthropic nepateikė detalesnių viešų komentarų, išskyrus tai, kad patvirtino Politico, jog įstatymo projektas egzistuoja. Kompanijos požiūris rodo norą aktyviai dalyvauti DI valdymo formavime, nors įstatymo projekto priėmimas Kongrese ir DI bendruomenėje dar neprasidėjo. Reguliavimo diskusijoms tęsiantis, Anthropic įstatymas prisideda prie besivystančios diskusijos apie geriausius būdus valdyti DI rizikas kartu skatinant technologinę pažangą.