Raportti paljastaa Anthropicin tekoälyn kehityksen kiihtyvän nopeasti turvallisuushuolista huolimatta

Kuva: Why a new report on Anthropic automating AI development is alarming researchers · Lähde

METR:n tutkimus osoittaa, että Anthropicin tekoälymallit kehittyvät kaksi kertaa nopeammin kuin vuosi sitten, pääasiassa tekoälyn tuen ansiosta, mikä herättää huolta nopeasta tekoälyn itsekehityksestä ja rajatusta julkisesta läpinäkyvyydestä.

Tekoälyn turvallisuustutkimusryhmä METR:n julkaisemassa yksityiskohtaisessa raportissa paljastetaan, että Anthropic käyttää tekoälyä oman tekoälyn kehityksen nopeuttamiseksi, yhtiön mallien kehittyessä noin kaksinkertaisella vauhdilla verrattuna vuoteen aiemmin. Tämä nopea kehitys johtuu pääasiassa tekoälyn avustamasta tutkimuksesta, joka merkittävästi lisää työntekijöiden tuottavuutta, eikä ainoastaan laskentatehon skaalauksesta. METR:n 11 viikon tutkimuksen mukaan Anthropicin sisäiset tekoälytyökalut ovat mahdollistaneet tutkijoiden työskentelyn jopa 12 kertaa tehokkaammin verrattuna tekoälyä edeltäviin tuottavuustasoihin, ja tämä kasvu on ollut viime kuukausina jatkuvaa.

Raportti korostaa, että Anthropic on viimeisen kuuden kuukauden aikana kouluttanut kolme kehittynyttä tekoälymallia, jotka kaikki ovat julkaisemattomia ja koodinimiltään Malli 2, Malli 3 ja Malli 4. Nämä viimeisimmät mallit muodostavat perustan yhtiön tuottavuuden ja nopeuden kasvulle. Kuitenkin Anthropic on käyttänyt laajoja poistokohtia METR:n raportin julkisessa versiossa, peittäen monet yksityiskohdat näistä kehityksistä. Yhtiö perustelee poistot kaupallisesti arkaluonteisen tiedon suojaamisella ja estämällä kilpailijoiden kehittymisen samaan tahtiin – kantaa, jota on kritisoitu sen läpinäkymättömyydestä.

Anthropicin perustajajäsen Sam McCandlish myönsi tietojen rajoittamisen kompromissit mutta puolusti päätöstä tarpeellisena riskien hallinnassa, jotka liittyvät yksityiskohtaisten kehitystä nopeuttavien tekijöiden paljastamiseen. Hän mainitsi että Anthropic aikoo julkaista oman raporttinsa tekoälyn edistymisestä ja tulevista turvallisuushankkeista lähitulevaisuudessa.

Ilmiöt ovat lisänneet keskustelua tekoälyn turvallisuusyhteisössä, kun Anthropic asettuu itse turvallisuustietoiseksi johtajaksi samalla, kun se nopeuttaa tekoälyn kykyjä nopeasti. Asiantuntijat korostavat, että tällainen nopea tekoälyllä ohjattu kehitys voi aikaistaa järjestelmien aikatauluja, jotka kykenevät rekursiiviseen itseparannukseen — tekoäly parantaa itseään vähäisellä ihmisen osallistumisella — minkä vuoksi on huolta nykyisten turvallisuus- ja sääntelytoimien riittävyydestä.

Kriitikot ilmaisevat myös turhautumistaan Anthropicin ristiriitaisiin julkisiin kehotuksiin hidastaa tekoälyn kehitystä verrattuna sen nykyisiin kehityssuuntiin, etenkin painavien poistojen rajoittaessa riippumatonta analyysiä. Vaaditaan lisää läpinäkyvyyttä, riippumatonta valvontaa ja integroituja turvallisuustutkijoita tekoälylaboratorioihin. Jotkut päättäjät, jotka ovat huolissaan näistä kehityksistä, kannattavat tiukempaa sääntelyä tai suoranaisia kieltoja rekursiivisesti itseään parantavaa tekoälytutkimusta kohtaan.

METR:n raportti tarjoaa kokonaisuudessaan yhden selkeimmistä näkymistä siihen, miten eturivin tekoälytutkimus kiihtyy itsenäisesti mutta korostaa myös merkittäviä haasteita avoimuuden, kilpailukysymysten ja turvallisuusvalvonnan tasapainottamisessa teknologian kehittyessä nopeasti.