Anthropic antaa ulkoiselle tekoälyn valvojalle työntekijäkohtaisen pääsyn tehostaakseen turvallisuuden valvontaa

Kuva: Ars Technica · Lähde

Anthropic on sijoittanut ulkoisen valvontaryhmän toimistoihinsa, antaen heille laajat oikeudet arvioida tekoälymallien riskejä itsenäisesti, mikä merkitsee merkittävää edistystä tekoälyturvallisuuden läpinäkyvyydessä ja vastuullisuudessa.

Anthropic, johtava tekoälyn kehittäjä, on ottanut merkittävän askeleen turvallisuuden valvonnan vahvistamiseksi myöntämällä ulkoiselle valvontaorganisaatiolle niin kutsutun "työntekijöiden kaltaisen pääsyn" sisäisiin järjestelmiinsä ja laitteisiinsa. Tämän hankkeen tarkoituksena on avoimesti arvioida tekoälymalleihinsa liittyviä riskejä, mukaan lukien Claude, sijoittamalla valvontaryhmä suoraan Anthropicin toimistoon. Ulkoiset arvioijat kuuluvat METR-nimiseen voittoa tavoittelemattomaan järjestöön, jolla on aiempaa kokemusta yhteistyöstä suurten tekoälylaboratorioiden, kuten OpenAI:n, Googlen ja Metan, kanssa. Omalla pääsyllä, joka vastaa Anthropicin omien riskinarviointitiimien pääsyä, METR:n henkilöstö voi itsenäisesti tarkastaa, arvioida ja analysoida turvallisuuskysymyksiä.

Tämä toimi seuraa laajaa teollisuuden ja yleisön huolta kasvavista mahdollisista vaaroista, joita lisääntyvä tekoälyjärjestelmien voima aiheuttaa, kuten taloudelliset häiriöt, kyberuhat ja eksistentiaaliset riskit. Anthropicin toimitusjohtaja Dario Amodei:n vaatimukset kolmannen osapuolen arvioinneista ovat saaneet aiemmin tukea vaikutusvaltaisilta tekoälyalan henkilöiltä, kuten OpenAI:n Sam Altmanilta ja SpaceX:n Elon Muskilta, mikä osoittaa harvinaisen yksimielisyyden vahvan ulkoisen valvonnan merkityksestä.

Anthropic on korostanut, että vaikka se pyrkii julkiseen vastuullisuuteen turvallisuustyössään, kaiken arkaluontoisen tiedon suora julkinen paljastaminen voisi altistaa haavoittuvuuksia pahantahtoisille toimijoille tai kilpailijoille. Sen sijaan se on valinnut pankkivalvontaa muistuttavan mallin, jossa valvojat sijoittavat tarkastajansa suuriin pankkeihin arvioidakseen riskejä suoraan ja ennakoivasti. METR:n arvioijilla on valtuudet julkaista havainnot ilman Anthropicin hyväksyntää, vaikka yhtiö voi pyytää poistoja arkaluonteisista tiedoista, kuten asiakastiedoista, oikeudellisista viestinnöistä tai omistusoikeuteen liittyvistä mallin yksityiskohdista.

Vahvistaakseen tätä valvontaa Anthropic on varustanut METR:n yrityksen laitteilla, työtiloilla ja rajoittamattomalla pääsyllä, joka vastaa sisäisten turvallisuustiimien käyttöoikeuksia. Anthropicin työntekijöitä kannustetaan olemaan vuorovaikutuksessa METR:n arvioijien kanssa samalla tavalla kuin työtovereiden kanssa riskiasioissa, edistäen yhteistyötä ja läpinäkyvyyttä. Merkittävästi tämä järjestely toteutetaan ilman taloudellista korvausta METR:lle, joka toimii ainoastaan hyväntekeväisyys- ja valtion rahoituksella, säilyttäen itsenäisyytensä.

Tämä kehitys tapahtuu samalla, kun Anthropic valmistelee korkeaprofiilista ensimmäistä julkista osakeantia, jonka arvoksi arvioidaan yli 2 biljoonaa dollaria tänä vuonna. Yhtiö haluaa osoittaa, että tekoälyn turvallisuus ja tiukka riskienhallinta ovat yhä keskeisiä painopisteitä kaupallisten paineiden keskellä. METR:n lisäksi Anthropic tekee yhteistyötä myös muiden turvallisuuskumppaneiden, kuten Accenture:n kanssa, joka panostaa laajoihin turvallisuustestauksiin, sekä SecureBion, joka arvioi kemiallisiin ja biologisiin uhkiin liittyviä riskejä.

Anthropic on kutsunut muitakin huippuluokan tekoälyyrityksiä omaksumaan vastaavia integroitujen arviointiohjelmien malleja korostaen vapaaehtoista läpinäkyvyyttä alan turvallisuusstandardien parantamiseksi kollektiivisesti. METR on ilmaissut valmiutensa laajentaa valvontatoimiaan tekoälykentällä tarjotakseen parempaa julkista näyttöä ja varmuutta tekoälyn turvallisuudesta.

Yhteenvetona Anthropicin ennennäkemätön päätös antaa ulkoiselle valvojalle laajat sisäiset käyttöoikeudet merkitsee merkittävää edistystä tekoälyn hallinnassa. Se luo potentiaalisen ennakkotapauksen itsenäisten arvioijien sijoittamisesta tekoälyyrityksiin riskien ennakoivaksi tunnistamiseksi ja hillitsemiseksi kasvavien vaatimusten keskellä vahvemmalle sääntelylle kehittyneissä tekoälyteknologioissa.