Anthropic föreslår AI-säkerhetslag som begränsar lansering av modeller vid katastrofal risk

Bild: TechCrunch · Källa

Anthropic har tagit fram ett förslag på AI-säkerhetslag som syftar till att stoppa lansering av AI-modeller som utgör överhängande katastrofal risk, såsom över 50 dödsfall eller miljardkostnad, och kräver rättsligt godkännande för att stoppa användning.

Mitt i växande oro för de potentiella farorna med artificiell intelligens har AI-laboratoriet Anthropic lagt fram ett lagförslag med fokus på AI-säkerhet, som föreslår en ny ram för reglering av avancerade AI-system. Enligt rapportering från Politico syftar Anthropics föreslagna lagstiftning till att förhindra släpp av AI-modeller som innebär en "förutsebar, överhängande risk" för katastrofala konsekvenser.

Lagen beskriver specifika gränsvärden för sådana risker, inklusive scenarier där en AI-modell kan orsaka mer än 50 människors död eller leda till skador på fastigheter över en miljard dollar. Dessa följder måste härröra från händelser som skapandet eller användningen av ett biologiskt vapen, att AI-modellen undkommer utvecklarnas kontroll eller deltar i en cyberattack. Dessa kriterier liknar nyligen antagen lagstiftning i Kalifornien (Senate Bill 53) som på liknande sätt definierar katastrofrisker som kräver reglering.

För att bedöma om en AI-modell utgör sådana risker föreslår Anthropic att "oberoende utvärderare" registrerade hos USA:s handelsdepartement anställs. Dessa utvärderare, som potentiellt finansieras av AI-företag men utan att betalningen är kopplad till utvärderingens resultat, skulle granska AI-modeller för risk. Om de bedömer en överhängande katastrofal hot måste de meddela handelsdepartementet inom 72 timmar. Därefter måste handelsdepartementet söka ett domstolsbeslut i Washington D.C. för att blockera modellens släpp. Noterbart är att lagen förbjuder federal myndighet att självständigt stoppa AI-modellens deployment utan rättsligt godkännande.

Denna ram skiljer sig från den mer självreglerande metod som förespråkas av delar av AI-industrin. Trots varningar om existentiella risker har många företag tvekat att acceptera obligatorisk tillsyn och föreslår istället frivillig övervakning via inbäddade oberoende utvärderare inom AI-organisationer. Anthropics lagförslag, som de har marknadsfört till federala och delstatliga lagstiftare sedan juni 2026 som en del av deras Advanced AI Framework, representerar ett mer kraftfullt regleringsförslag än vissa konkurrenter, som Nvidia, som nyligen argumenterade mot behovet av nya AI-lagar.

Medan lagens referenser till katastrofrisker med massdöd eller omfattande materiella skador är mer extrema än industrins vanliga fokus på exempelvis agentic hacking — där AI-system agerar autonomt för att bryta säkerhet — syftar förslaget till att föregripa allvarliga följder. Betoningen på rättslig övervakning och oberoende utvärdering speglar ett försök att balansera AI-innovation med säkerhetsgarantier.

Anthropic har inte gett detaljerade offentliga kommentarer utöver att bekräfta för Politico att utkastet existerar. Företagets angreppssätt visar en vilja att aktivt delta i utformningen av AI-styrning, även om lagförslagets mottagande i kongressen och bland andra AI-aktörer återstår att se. Allteftersom regleringsdiskussioner fortsätter bidrar Anthropics lagförslag till den pågående debatten om hur AI-risker bäst hanteras samtidigt som teknologisk utveckling främjas.