Anthropic myöntää METR-tutkijoille työntekijätason pääsyn riippumattomaan tekoälyn turvallisuuden arviointiin

Kuva: TechCrunch · Lähde

Anthropic on myöntänyt kuudelle METR:n tutkijalle työntekijöiden kaltaisen pääsyn sisäisiin järjestelmiinsä mahdollistamaan riippumattoman arvioinnin tekoälyn turvallisuuskäytännöistä ja riskeistä, luvaten puolueettomia julkisia raportteja ilman veto-oikeutta.

Anthropic, etulinjan tekoälymallien kehittäjä, ilmoitti merkittävästä askeleesta kohti parempaa läpinäkyvyyttä ja turvallisuusvastuuta myöntämällä voittoa tavoittelemattoman METR-järjestön tutkijoille työntekijätason pääsyn yhtiön sisäisiin työkaluihin ja tietoihin. Tämä järjestely antaa METR:n kuudelle tiimin jäsenelle mahdollisuuden arvioida Anthropicin tekoälymalleja, riskienhallintaa ja turvallisuusmenettelyjä itsenäisesti sekä julkaista löydöksensä ilman Anthropicin oikeutta estää julkaisua.

Aloite vastaa kasvaviin huoliin tekoälytoimijoiden arvaamattomista käytöksistä. Useammat tapaukset elokuun 2026 lopun jälkeen ovat kiihdyttäneet vaatimuksia puolueettomista ulkopuolisista arvioinneista. Anthropic vertaa yhteistyötä pankkivalvojien malliin, jossa asuinvalvojat työskentelevät suurissa pankeissa, ja heillä on laaja pääsy, joka vastaa Anthropicin omaa riskinarviointitiimiä.

METR:n tutkijat saavat Anthropicin myöntämät kannettavat tietokoneet, työtilat ja pääsyn lähes kaikkiin sisäisiin tietoihin, jotka liittyvät linjaukseen ja turvallisuusriskeihin. Anthropicin työntekijöitä kannustetaan jakamaan tietoja METR:n kanssa kuin he olisivat sisäisiä kollegoja. Poikkeuksia ovat tarkasti määritellyt arkaluontoiset tiedot, kuten asiakastiedot, asianajajan ja asiakkaan välinen salaisuus sekä yksityiskohtaiset mallirakenteet.

Anthropic luopuu veto-oikeudestaan METR:n julkaisuihin, vaikka se voi pyytää tietojen rajaamista näissä rajoitetuissa tietokategorioissa. METR:llä on oikeus kommentoida julkisesti kaikkia rajaamispäätöksiä.

Tämä yhteistyö edustaa Anthropicin kehittämän kolmitasoisen arvioijajärjestelmän korkeinta tasoa. Alemmilla tasoilla, kuten biosekuriteettiin keskittyvällä voittoa tavoittelemattomalla SecureBion, on rajatumpi pääsy, ja heidän arviointien julkaisu vaatii Anthropicin hyväksynnän.

Anthropicin toimitusjohtaja Dario Amodei on aiemmin kannattanut itsenäisten arvioijien upottamista tekoälylaboratorioihin hidastamaan tekoälyn kehityksen nopeaa tahtia, mikä sopii yhteen OpenAI:n, Googlen, Metan, Nvidian ja muiden sitoumusten kanssa Valkoisen talon sopimuksessa riippumattomasta tekoälyn tarkastuksesta.

METR:n lisäksi Anthropic tekee yhteistyötä myös SecureBion ja Accenturen kanssa muissa arvioijarooleissa, lisäten asteittain läpinäkyvyyttä ja arviointien laajuutta. Yhtiö korostaa, että nämä arviointimenettelyt ovat vapaaehtoisia, ja kaikkien edistyneiden tekoälyyritysten tulisi ottaa käyttöön vastaavia käytäntöjä turvallisuuden ja vastuullisuuden varmistamiseksi alalla.

Tämän toimenpiteen tavoitteena on kaventaa tiedon kuilua tekoälyn kehittäjien ja ulkoisten arvioijien välillä, auttaen lopulta suojelemaan yhä voimakkaampien tekoälyjärjestelmien aiheuttamilta riskeiltä.