Anthropic gir METR-forskere ansattlignende tilgang for uavhengig AI-sikkerhetsevaluering

Bilde: TechCrunch · Kilde

Anthropic har gitt seks forskere fra METR ansattlignende tilgang til sine interne systemer for å muliggjøre en uavhengig vurdering av selskapets AI-sikkerhetspraksis og -risikoer, med løfte om upartiske offentlige rapporter uten vetorett.

Anthropic, en ledende utvikler av avanserte AI-modeller, kunngjorde et betydelig skritt mot økt åpenhet og ansvarlighet for sikkerheten ved å gi forskere fra den ideelle organisasjonen METR ansattlignende tilgang til sine interne verktøy og informasjon. Denne avtalen gjør det mulig for METRs seks teammedlemmer å uavhengig evaluere Anthropics AI-modeller, risikostyring og sikkerhetsprosedyrer, samt publisere sine funn uten at Anthropic kan stoppe publiseringen.

Initiativet tar tak i økende bekymringer rundt AI-agenter som oppfører seg uforutsigbart, med flere rapporterte hendelser siden slutten av august 2026 som har fremkalt krav om upartiske eksterne vurderinger. Anthropic har lagt opp samarbeidet etter modellen med banktilsyn som plasserer faste eksaminatorer inne i store banker, hvor evaluatorene har vid tilgang tilsvarende Anthropics egne risikovurderingsteam.

METR-forskerne får bærbare datamaskiner utstedt av Anthropic, kontorplass og tilgang til nesten all intern data relevant for tilpasning og sikkerhetsrisikoer. Ansatte hos Anthropic oppfordres til å dele informasjon med METR som om de var interne kolleger. Unntak gjelder for snevert definerte sensitive data, inkludert kundeinformasjon, advokat-klient-konfidensielle dokumenter og detaljerte modellarkitekturer.

Anthropic frasier seg vetorett over METRs publikasjoner, selv om selskapet kan be om redigeringer i disse begrensede datakategoriene. METR beholder retten til å offentlig kommentere alle slike redigeringsbeslutninger.

Dette samarbeidet representerer det høyeste nivået i et tre-nivås evaluatorsystem som Anthropic utvikler. Lavere nivåer, som bioikkerhetsorganisasjonen SecureBio, har mer begrenset tilgang og krever Anthropics godkjenning for å publisere vurderinger.

Anthropics administrerende direktør Dario Amodei har tidligere tatt til orde for å plassere uavhengige evaluatorer inne i AI-laboratorier for å dempe det raske tempoet i AI-utvikling, et konsept i tråd med forpliktelser fra OpenAI, Google, Meta, Nvidia og andre i en avtale fra Det hvite hus om uavhengig AI-gjennomgang.

I tillegg til METR samarbeider Anthropic også med SecureBio og Accenture om andre evaluatorroller, og øker gradvis åpenheten og omfanget av vurderinger. Selskapet understreket at disse evalueringsmetodene er frivillige, og at alle ledende AI-selskaper bør adoptere lignende praksiser for å sikre sikkerhet og ansvarlighet i bransjen.

Dette tiltaket har som mål å redusere informasjonsgapet mellom AI-utviklere og eksterne anmeldere, og hjelper til med å beskytte mot risikoene knyttet til stadig kraftigere AI-systemer.