Anthropic ger METR-forskare anställningsliknande tillgång för oberoende AI-säkerhetsutvärdering

Bild: TechCrunch · Källa

Anthropic har gett sex forskare från METR anställningsliknande tillgång till sina interna system för att möjliggöra en oberoende bedömning av företagets AI-säkerhetspraxis och risker, med löftet om opartiska offentliga rapporter utan vetorätt.

Anthropic, en ledande utvecklare av avancerade AI-modeller, meddelade ett betydande steg mot ökad transparens och ansvarstagande för säkerheten genom att ge forskare från den ideella organisationen METR anställningsliknande tillgång till sina interna verktyg och information. Denna ordning gör det möjligt för METRs sex teammedlemmar att självständigt utvärdera Anthropics AI-modeller, riskhantering och säkerhetsrutiner samt publicera sina fynd utan att Anthropic kan stoppa publiceringen.

Initiativet bemöter växande oro över AI-agenter som agerar oförutsägbart, där flera incidenter rapporterats sedan slutet av augusti 2026 och lett till krav på opartiska externa granskningar. Anthropic har utformat samarbetet efter modellen med bankregulatorer som placerar fast anställda granskare inom stora banker, där utvärderarna har omfattande tillgång jämförbar med Anthropics egna riskbedömningsteam.

METRs forskare får datorer utfärdade av Anthropic, kontorsutrymme och tillgång till nästan all intern data som är relevant för anpassning och säkerhetsrisker. Medarbetare på Anthropic uppmanas att dela information med METR som om de vore interna kollegor. Undantag gäller för snävt definierade känsliga data, inkluderande kundinformation, sekretessbelagda handlingar mellan advokat och klient samt detaljerade modellarkitekturer.

Anthropic avstår från vetorätt över METRs publikationer, även om företaget kan begära att delar av de restriktiva datakategorierna tas bort. METR har rätten att offentligt kommentera alla sådana redigeringsbeslut.

Detta samarbete representerar den högsta nivån i ett trestegssystem för utvärderare som Anthropic utvecklar. Lägsta nivåer, såsom biosekuritetsorganisationen SecureBio, har mer begränsad tillgång och kräver Anthropics godkännande för att publicera sina utvärderingar.

Anthropics VD Dario Amodei har tidigare förespråkat att oberoende utvärderare placeras inom AI-laboratorier för att dämpa den snabba utvecklingstakten för AI, en idé förenlig med åtaganden från OpenAI, Google, Meta, Nvidia och andra i ett överenskommet initiativ från Vita huset om oberoende AI-granskning.

Förutom METR samarbetar Anthropic också med SecureBio och Accenture för andra utvärderarrollar och ökar gradvis transparensen och omfattningen av granskningar. Företaget betonade att dessa utvärderingsmetoder är frivilliga och att alla ledande AI-företag bör anta liknande metoder för att säkerställa säkerhet och ansvar i branschen.

Detta steg syftar till att minska informationsklyftan mellan AI-utvecklare och externa granskare, vilket i slutändan hjälper till att skydda mot riskerna med allt kraftfullare AI-system.