Rapport avslører at Anthropics AI-utvikling akselererer raskt midt i sikkerhetsbekymringer

Bilde: Why a new report on Anthropic automating AI development is alarming researchers · Kilde

En METR-undersøkelse avdekker at Anthropics AI-modeller forbedres dobbelt så raskt som for ett år siden, i stor grad drevet av AI-assistanse, noe som vekker bekymring rundt rask AI-selvforbedring og begrenset offentlig åpenhet.

En detaljert rapport publisert av AI-sikkerhetsforskningsgruppen METR avslører at Anthropic bruker AI for å akselerere sin egen AI-utvikling, med selskapets modeller som forbedres omtrent dobbelt så raskt som for ett år siden. Denne raske fremskritten tilskrives hovedsakelig AI-assistert forskning, som øker ansattes produktivitet betydelig, heller enn bare å skalere datakraft.

Ifølge METRs 11-ukers etterforskning har Anthropics interne AI-verktøy gjort det mulig for forskere å jobbe opp til 12 ganger mer effektivt sammenlignet med produktivitetsnivåene før AI, en økning som har økt de siste månedene.

Rapporten fremhever at Anthropic har fullført treningen av tre avanserte AI-modeller i løpet av de siste seks månedene, som alle fortsatt er uoffentliggjorte og kodenavngitt Modell 2, Modell 3 og Modell 4. Disse siste modellene utgjør grunnlaget for mye av selskapets produktivitets- og hastighetsgevinster. Imidlertid har Anthropic gjort omfattende utelatelser i den offentlig tilgjengelige versjonen av METRs rapport, som skjuler mange spesifikke detaljer om disse utviklingene. Selskapet begrunnet disse utelatelsene med å beskytte kommersielt sensitiv informasjon og forhindre at konkurrenter akselererer i samme tempo – et standpunkt som har fått kritikk for mangel på åpenhet.

Anthropics medgründer Sam McCandlish erkjente avveiningene ved å begrense informasjon, men forsvarte avgjørelsen som nødvendig for å håndtere risiko knyttet til å avsløre detaljerte akselerasjonsdrivere. Han nevnte planer om at Anthropic snart vil slippe sin egen rapport om AI-framgang og kommende sikkerhetsinitiativer.

Avsløringene har intensifisert debatten innen AI-sikkerhetsmiljøet, ettersom Anthropic posisjonerer seg som en sikkerhetsbevisst leder samtidig som de raskt øker AI-kapasitetene. Eksperter understreker at slik rask AI-drevet utvikling kan fremskynde tidslinjer for systemer i stand til rekursiv selvforbedring — AI som forbedrer seg selv med minimal menneskelig involvering — og vekker bekymring for om dagens sikkerhets- og regulatoriske tiltak er tilstrekkelige.

Kritikere uttrykker også frustrasjon over Anthropics motstridende offentlige oppfordringer om å bremse AI-framgangen sammenlignet med dagens utvikling, særlig med de omfattende utelatelsene som begrenser uavhengig analyse. Krav om økt åpenhet, uavhengig tilsyn og innlemmede sikkerhetsforskere i AI-laboratorier vokser. Noen beslutningstakere, alarmerte over disse utviklingene, taler for strengere reguleringer eller direkte forbud mot rekursiv selvforbedrende AI-forskning.

Alt i alt gir METR-rapporten en av de klareste innblikkene hittil i hvordan grenseoverskridende AI-forskning akselererer autonomt, men den fremhever også betydelige utfordringer med å balansere åpenhet, konkurransehensyn og sikkerhetsstyring etter hvert som denne teknologien beveger seg raskt fremover.