Anthropic foreslår AI-sikkerhetslov som begrenser modellutgivelse ved katastrofal risiko

Bilde: TechCrunch · Kilde

Anthropic har utarbeidet et forslag til AI-sikkerhetslov som tar sikte på å blokkere utgivelse av AI-modeller med overhengende katastrofal risiko, som over 50 dødsfall eller milliarder i skade, og krever rettslig godkjenning for å stoppe utrulling.

Midt i økende bekymring for potensielle farer ved kunstig intelligens har AI-laboratoriet Anthropic lagt fram et lovforslag med fokus på AI-sikkerhet, som foreslår en ny ramme for regulering av avanserte AI-systemer. Ifølge rapportering fra Politico har Anthropics foreslåtte lovgivning som mål å forhindre utgivelse av AI-modeller som utgjør en "forutsigbar, overhengende risiko" for katastrofale utfall.

Loven skisserer spesifikke terskler for slike risikoer, inkludert scenarier der en AI-modell kan føre til døden for mer enn 50 personer eller forårsake skader på over en milliard dollar i eiendom. Disse konsekvensene må oppstå fra hendelser som opprettelse eller bruk av et biologisk våpen, at AI-modellen unnslipper utviklernes kontroll, eller involvering i et cyberangrep. Disse kriteriene ligner på nylig lovgivning i California (Senate Bill 53) som på lignende måte definerer katastrofale risikoer som krever regulering.

For å vurdere om en AI-modell utgjør slike risikoer foreslår Anthropic å bruke "uavhengige evaluatorer" registrert hos USAs handelsdepartement. Disse evaluatorene, mulig finansiert av AI-selskaper, men uten at betaling er knyttet til evalueringens utfall, skal vurdere AI-modeller for risiko. Hvis de fastslår en overhengende katastrofal trussel, må de varsle handelsdepartementet innen 72 timer. Deretter må handelsdepartementet søke rettens godkjennelse i Washington D.C. for å blokkere modellens utgivelse. Det er verdt å merke seg at loven forbyr at noen føderale byråer selvstendig stopper utrulling av en AI-modell uten rettslig samtykke.

Denne rammen står i motsetning til mer selvregulerte tilnærminger som favoriseres av deler av AI-industrien. Til tross for advarsler om eksistensielle risikoer, har mange selskaper vært tilbakeholdne med å akseptere obligatorisk tilsyn, og har i stedet foreslått frivillig overvåkning gjennom innebygde uavhengige evaluatorer i AI-organisasjoner. Anthropics lovforslag, som de har promotert for føderale og statlige lovgivere siden juni 2026 som en del av deres Advanced AI Framework, representerer et mer offensivt reguleringsforslag enn enkelte konkurrenter, som Nvidia, som nylig argumenterte mot behovet for nye AI-lover.

Mens lovens referanser til katastrofale risikoer som involverer masseødeleggelse eller omfattende materielle skader, er mer ekstreme enn det vanlige industrifokuset på blant annet agentisk hacking — hvor AI-systemer handler autonomt for å bryte sikkerhet — søker forslaget å forebygge alvorlige konsekvenser. Vekten på rettslig tilsyn og uavhengig evaluering gjenspeiler et forsøk på å balansere AI-innovasjon med sikkerhetsgarantier.

Anthropic har ikke gitt detaljerte offentlige kommentarer utover å bekrefte for Politico at utkastet eksisterer. Selskapets tilnærming signaliserer villighet til å engasjere seg proaktivt i formingen av AI-styring, selv om lovforslagets mottakelse i Kongressen og blant andre AI-aktører gjenstår å se. Etter hvert som reguleringsdiskusjonene fortsetter, bidrar Anthropics lovforslag til den pågående debatten om hvordan AI-risiko best kan håndteres samtidig som teknologisk framgang fremmes.