Rapport avslöjar att Anthropics AI-utveckling accelererar snabbt mitt i säkerhetsbekymmer

Bild: Why a new report on Anthropic automating AI development is alarming researchers · Källa

En undersökning från METR visar att Anthropics AI-modeller förbättras dubbelt så snabbt som för ett år sedan, huvudsakligen drivet av AI-assistans, vilket väcker oro kring snabb AI-självförbättring och begränsad offentlig transparens.

En detaljerad rapport publicerad av AI-säkerhetsforskningsgruppen METR avslöjar att Anthropic använder AI för att påskynda sin egen AI-utveckling, där företagets modeller förbättras i ungefär dubbla hastigheten jämfört med för ett år sedan. Denna snabba utveckling tillskrivs främst AI-assisterad forskning, vilket kraftigt ökar medarbetarnas produktivitet, snarare än att enbart skala upp beräkningsresurser.

Enligt METRs 11-veckors undersökning har Anthropics interna AI-verktyg gjort det möjligt för forskare att arbeta upp till 12 gånger effektivare jämfört med produktivitetsnivåer före AI, en ökning som har vuxit under de senaste månaderna.

Rapporten framhåller att Anthropic har slutfört träningen av tre avancerade AI-modeller under de senaste sex månaderna, vilka alla förblir opublicerade och har kodnamnen Modell 2, Modell 3 och Modell 4. Dessa senaste modeller ligger till grund för mycket av företagets produktivitets- och hastighetsvinster. Dock har Anthropic gjort omfattande redigeringar i den offentligt tillgängliga versionen av METRs rapport, vilket skymmer många specifika detaljer om dessa utvecklingar. Företaget motiverade dessa redigeringar som ett skydd för kommersiellt känslig information och för att förhindra att konkurrenter accelererar i samma takt – ett ställningstagande som har kritiserats för sin brist på insyn.

Anthropics medgrundare Sam McCandlish erkände avvägningarna i att begränsa information men försvarade beslutet som nödvändigt för att hantera risker kopplade till att avslöja detaljerade drivkrafter för acceleration. Han noterade planer på att Anthropic snart ska släppa sin egen rapport om AI-framsteg och kommande säkerhetsinitiativ.

Avslöjandena har intensifierat debatten inom AI-säkerhetsgemenskapen, då Anthropic positionerar sig som en säkerhetsmedveten ledare samtidigt som de snabbt accelererar AI-kapabiliteter. Experter betonar att sådan snabb AI-driven utveckling kan föra fram tidpunkter för system med förmåga till rekursiv självförbättring – AI som förbättrar sig själv med minimal mänsklig inblandning – och väcker farhågor om tillräckligheten i nuvarande säkerhets- och regleringsåtgärder.

Kritiker uttrycker också frustration över Anthropics motsägelsefulla offentliga uppmaningar att sakta ner AI-utvecklingen jämfört med dess nuvarande kurs, särskilt med de omfattande redigeringarna som begränsar oberoende analys. Kraven på ökad transparens, oberoende tillsyn och insatta säkerhetsforskare inom AI-laboratorier växer sig allt starkare. Vissa beslutsfattare, oroade över dessa utvecklingar, förespråkar striktare regleringar eller helt förbud mot rekursiv självförbättrande AI-forskning.

Sammanfattningsvis ger METR-rapporten en av de tydligaste inblickarna hittills i hur gränsöverskridande AI-forskning accelererar autonomt men belyser också betydande utmaningar i att balansera öppenhet, konkurrenshänsyn och säkerhetsstyrning när denna teknik rör sig snabbt framåt.