Anthropic esitab tehisintellekti ohutusseaduse eelnõu, mis piirab mudelite avaldamist katastroofilise riski korral

Pilt: TechCrunch · Allikas

Anthropic on koostanud tehisintellekti ohutusseaduse eelnõu, mis keelab AI-mudelite avaldamise, kui nende tõttu on oodata üle 50 inimese surma või miljardi dollari suuruseid kahjusid, nõudes nende kasutuselevõtu peatamiseks kohtu heakskiitu.

Kasvavate murede taustal tehisintellekti võimalike ohtude pärast on AI-labor Anthropic esitanud tehisintellekti ohutusele keskenduva eelnõu, mis pakub uut raamistikku täiustatud AI-süsteemide regulatsiooniks. Politico andmetel on Anthropicu ettepanek suunatud AI-mudelite avaldamise ennetamisele, kui need kujutavad endast „ettearvatavat, kohe käesolevat katastroofilist riski“.

Eelnõu seab konkreetseid lävendi kriteeriume selliste riskide jaoks, sealhulgas olukorrad, kus AI-mudeli avaldamine võiks põhjustada üle 50 inimese surma või miljardi dollari ulatuses varakahju. Nende tagajärgede tekkimine peab olema seotud selliste sündmustega nagu biorelvade loomine või kasutuselevõtt, AI-mudeli kontrolli alt väljumine või osalemine küberrünnakus. Need kriteeriumid sarnanevad California hiljutise seadusandlusega (Senate Bill 53), mis määratleb samamoodi katastroofilised riskid, mis vajavad regulatiivset tähelepanu.

AI-mudeli riskide hindamiseks pakub Anthropic välja kasutada „sõltumatuid hindajaid“, kes oleksid registreeritud USA Kaubandusministeeriumis. Need hindajad, keda võiks rahastada AI-firmad, kuid kelle tasustamine ei sõltu hindamise tulemustest, vaataksid AI-mudeleid üle riskide hindamiseks. Kui nad tuvastavad kiireloomulise katastroofilise ohutsooni, peavad nad 72 tunni jooksul sellest teatama Kaubandusministeeriumile. Seejärel peab ministeerium D.C. kohtult taotlema loa mudeli avaldamise keelamiseks. Oluline on, et eelnõu keelab igal föderaalsel asutusel ilma kohtuliku nõusolekuta AI-mudeli kasutuselevõttu iseseisvalt peatada.

See raamistik erineb AI-tööstuse osa pooldatud eneseregulatsioonist. Vaatamata eksistentsiaalsete riskide hoiatustele on paljud ettevõtted kõhklevalt vastu võtnud kohustuslikku järelevalvet, pakkudes selle asemel vabatahtlikku järelevalvet, kasutades AI-organisatsioonides sisseehitatud sõltumatuid hindajaid. Anthropic’i eelnõu, mida nad on alates juunist 2026 federalist ja osariigi seadusandjateni tutvustanud kui osa oma Täiustatud AI Raamistikust, esindab enamat kui mõne konkurendi, näiteks Nvidiaga, kes hiljuti argumenteeris uute AI-seaduste vastu.

Kuigi eelnõu viited katastroofilistele riskidele, nagu massilised ohvrid või ulatuslik varakahju, on äärmuslikumad kui tööstuse tavaline rõhuasetus agentse häkkimisele ehk olukordadele, kus AI toimib autonoomselt turvarikkumiste läbiviimiseks, eesmärk on ennetada tõsiseid tagajärgi. Kohtuvõimu järelevalve rõhutamine ja sõltumatute hindajate kasutamine peegeldab katset tasakaalustada AI innovatsiooni ja ohutuse tagatisi.

Anthropic ei ole eelnõu üksikasjade kohta avalikult kommenteerinud peale politicolo kinnituse selle olemasolu kohta. Ettevõtte lähenemine näitab valmisolekut proaktiivselt AI-valitsemise kujundamisse panustada, kuigi eelnõu vastuvõtt Kongressis ja teiste AI-osapoolte seas on veel lahtine. Regulatiivsed arutelud jätkuvad ning Anthropicu eelnõu lisab väärtust arutelule, kuidas parimal viisil AI riske juhtida, toetades samas tehnoloogilist arengut.