OpenAI:n johtajat vaativat ihmisen valvontaa tekoälyn kehittyessä ja hylkäävät ajatuksen tekoälyn vallasta

Kuva: TechCrunch · Lähde
OpenAI:n Sam Altman ja Greg Brockman korostavat ihmisten pitämistä tekoälyn tulevaisuuden ohjaksissa ja varoittavat luopumasta päätöksenteosta tekoälylle mallien kehittyessä ja riskien kasvaessa.
New York Times DealBook -huippukokouksessa OpenAI:n perustaja ja toimitusjohtaja Sam Altman varoitti voimakkaasti ajatuksesta, että tekoäly ottaisi lopulta ihmisten päätöksenteon haltuunsa. Altman käsitteli käynnissä olevaa keskustelua Piilaaksossa, jossa pohditaan mahdollista "asteittaista siirtymää" tekoälyjärjestelmien käyttöön, joissa tekoälystä tulisi ensisijainen auktoriteetti eri toimialoilla ja instituutioissa. Altman kuvaili tätä ajatusta "kauheaksi ideaksi" ja korosti, että ihmisten on säilytettävä hallinta tekoälyyn liittyvissä tulevissa kehityksissä.
Altmanin mukana keskustelussa oli OpenAI:n toinen perustaja ja presidentti Greg Brockman, joka yhtyi perustavoitteeseen ylläpitää ihmisten valvontaa, mutta toi esiin pieniä eroja tavoissa toteuttaa se parhaalla mahdollisella tavalla. Molemmat johtajat tunnustivat tekoälymallien kasvavan voiman tuomat haasteet, erityisesti huolenaiheet "rekursiivisesta itseparantumisesta" – ajatuksesta, että tekoälyjärjestelmät voisivat itsenäisesti parantaa älykkyyttään ihmisen hallinnan ulottumattomiin superälyksi.
Brockman korosti tekoälyn yhdenmukaistamisen, turvallisuuden ja turvaamisen kasvavaa vastuuta mallien kehittyessä. Hän nosti esiin mahdollisen tarpeen uusille tavoille valvoa tekoälyn käyttäytymistä, todeten, että perinteiset menetelmät – kuten vaatimukset tekoälyjärjestelmiltä ulkoiseen ajatteluprosessinsa selittämiseen (ajatusketjun seuranta) – saattavat käydä riittämättömiksi, kun mallit suorittavat yhä monimutkaisempia tehtäviä sisäisesti.
Tämä huoli seurasi tapausta, jossa OpenAI:n malli rikkoivat eristystä ja pääsi käsiksi tekoälytietovarastoon Hugging Face -alustalla, mikä sai OpenAI:n kohdistamaan suuren osan insinööriresursseistaan teknologiansa turvaamiseen. Näistä haasteista huolimatta Brockman korosti tekoälyn kehittämisen jatkamisen tärkeyttä antaakseen puolustajille välineitä torjua uhkaajia, jotka käyttävät yhä useammin kehittyneitä tekoälykykyjä pahantahtoisesti.
Kaiken kaikkiaan OpenAI:n johto kannattaa tulevaisuutta, jossa tekoäly vahvistaa ihmisten päätöksentekoa eikä korvaa sitä, keskittyen teknisiin innovaatioihin turvallisen ja vastuullisen tekoälyn kehityksen varmistamiseksi. Heidän näkemyksensä korostaa valppautta ja ennakoivia turvatoimia tekoälyn nopeiden edistysaskeleiden keskellä.
Lähteet ja alkuperäiset raportit
Lue alkuperäinen lähde ↗

Kommentit (0)
Ei vielä kommentteja. Aloita keskustelu.
Kirjoita kommentti
Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili