Anthropic ehdottaa tekoälyn turvallisuuslakia, joka rajoittaa mallien julkaisua katastrofaalisen riskin uhatessa

Kuva: TechCrunch · Lähde

Anthropic on laatinut tekoälyn turvallisuuslain luonnoksen, jonka tavoitteena on estää tekoälymallien julkaisu, jos niillä on välitön katastrofaalinen riski, kuten yli 50 kuolemaa tai miljardien vahingot, ja joka edellyttää tuomioistuimen hyväksyntää julkaisun estämiseksi.

Yhteen kasvavan huolen keskellä tekoälyn mahdollisista vaaroista tekoälylaboratorio Anthropic on laatinut tekoälyn turvallisuuslaista luonnoksen, joka ehdottaa uutta viitekehystä edistyneiden tekoälyjärjestelmien sääntelyyn. Politico-lehden mukaan Anthropicin ehdottama lainsäädäntö pyrkii estämään tekoälymallien julkaisun, jotka aiheuttavat "ennakoitavissa olevan, välittömän riskin" katastrofaalisille seurauksille.

Lakiesityksessä määritellään tarkat raja-arvot tällaisille riskeille, muun muassa tilanteet, joissa tekoälymallin julkaisu voisi johtaa yli 50 ihmisen kuolemaan tai yli miljardin dollarin omaisuusvahinkoihin. Näitä seurauksia voi aiheuttaa esimerkiksi biologisen aseen luominen tai käyttöönotto, tekoälymallin pakeneminen kehittäjiensä valvonnasta tai osallistuminen kyberhyökkäykseen. Nämä kriteerit muistuttavat äskettäin Kaliforniassa hyväksyttyä lainsäädäntöä (Senate Bill 53), joka myös määrittelee katastrofaalisia riskejä, jotka vaativat sääntelyhuomiota.

Tekoälymallin riskien arvioimiseksi Anthropic ehdottaa "itsenäisten arvioijien" käyttöä, jotka on rekisteröity Yhdysvaltain kauppaministeriöön. Nämä arvioijat, joita tekoälyyritykset voivat mahdollisesti rahoittaa, mutta joiden palkkiot eivät saa olla sidottuja arviointituloksiin, tarkastaisivat tekoälymalleja riskien varalta. Jos he toteavat välittömän katastrofaalisen uhkan, heidän on ilmoitettava siitä kauppaministeriölle 72 tunnin kuluessa. Tämän jälkeen kauppaministeriön on haettava tuomarin hyväksyntää Washington D.C.:ssä mallin julkaisun estämiseksi. On huomattava, että lakiesitys kieltää millekään liittovaltion virastolle tekoälymallin käyttöönoton itsenäisen keskeyttämisen ilman tuomioistuimen suostumusta.

Tämä viitekehys eroaa teollisuuden osittain suosimista itsevalvotuista lähestymistavoista. Huolimatta varoituksista eksistentiaalisista riskeistä monet yritykset ovat epäröineet hyväksyä pakollisen valvonnan ja ovat sen sijaan ehdottaneet vapaaehtoista valvontaa sisälle upotettujen itsenäisten arvioijien kautta. Anthropicin lakiesitys, jota he ovat markkinoineet liittovaltion ja osavaltioiden lainsäätäjille kesäkuusta 2026 lähtien osana Advanced AI Frameworkia, edustaa jämäkämpää sääntelyehdotusta kuin jotkut kollegat, kuten Nvidia, joka äskettäin vastusti uusien tekoälylakien tarvetta.

Vaikka lakiesityksen viittaukset katastrofaalisiin riskeihin, jotka liittyvät laajoihin kuolemantapauksiin tai mittaviin omaisuusvahinkoihin, ovat vakaampia kuin alan yleinen keskittyminen agenttimaisen hakkeroinnin kaltaisiin ongelmiin — joissa tekoälyjärjestelmät toimivat itsenäisesti turvallisuuden rikkomiseksi — ehdotus pyrkii estämään vakavia seurauksia. Tuomioistuimellisen valvonnan ja riippumattoman arvioinnin korostaminen heijastaa pyrkimystä tasapainottaa tekoälyn innovaatioita ja turvallisuuslupauksia.

Anthropic ei ole antanut yksityiskohtaisia julkisia kommentteja luonnoksesta sen lisäksi, että se on vahvistanut Politicolle lain olemassaolon. Yhtiön lähestymistapa osoittaa halukkuutta osallistua aktiivisesti tekoälyhallinnon muotoiluun, vaikka lakiesityksen vastaanotto kongressissa ja muiden tekoälytoimijoiden keskuudessa on vielä nähtävänä. Sääntelykeskustelujen jatkuessa Anthropicin lakiesitys lisää kehittyvään keskusteluun siitä, miten tekoälyriskit voidaan parhaiten hallita teknologisen kehityksen edistämisen ohella.