Entinen OpenAI:n hallituksen jäsen Helen Toner tekoista toimitusjohtajista ja tekoälyn turvallisuuden haasteista

Kuva: The Verge · Lähde
Helen Toner, entinen OpenAI:n hallituksen jäsen ja nykyinen CSET:n johtaja, keskustelee tekoälyn turvallisuudesta, hallinnon haasteista ja superälyn tavoittelusta kasvavien kaupallisten paineiden ja muuttuvan poliittisen tietoisuuden keskellä.
Helen Toner, Georgetownin yliopiston Security and Emerging Technology -keskuksen (CSET) toimitusjohtaja ja entinen OpenAI:n hallituksen jäsen, on äskettäin jakanut näkemyksiä tekoälyn turvallisuuden, sääntelyn ja päättäjien osallistumisen monimutkaisuuksista. Toner oli yksi neljästä OpenAI:n hallituksen jäsenestä, jotka äänestivät Sam Altmanin erottamisesta kiistanalaisena tapahtumana, jota kutsuttiin "blipiksi", ja joka korosti hallinnon vaikeuksia tekoälyn tehtävän ja kaupallisen kasvun risteyskohdassa.
Toner selitti, että OpenAI:n voittoa tavoittelemattoman hallituksen tarkoituksena alun perin oli estää tehtävän harhautuminen kohti voiton maksimointia tekoälyn turvallisuuden kustannuksella, mutta tämä vastuullisuusmekanismi petti Altmanin erottamisen aikana. Tämän jälkeen OpenAI on järjestänyt hallituksensa uudelleen kasvavien huolien myötä tekoälyriskeistä, joita on yhä selvemmin nähtävissä: tekoälymallien pääsy hallituista ympäristöistä aiheuttaen todellisia turvallisuusongelmia.
Vaikka tekoälyyritysten toimitusjohtajat ovat hiljattain vaatineet hidastamista ja sääntelykehyksiä, Toner korosti, että vapaaehtoisilla sisäiseen vastuuseen perustuvilla sopimuksilla on rajoituksensa, erityisesti yritysten kuten Anthropicin valmistautuessa julkisiin listauksiin, mikä tuo uusia markkinapaineita.
Poliittisen tietoisuuden osalta Toner korosti, että vaikka hallituksen ja teknologia-alan välillä havaitaan laaja tiedon kuilu, on todellista kahdenpuolueista ja kasvavaa kiinnostusta tekoälyasioihin valittujen virkamiesten ja heidän henkilökuntiensa keskuudessa. CSET pyrkii tarjoamaan puolueetonta, tiukkaa analyysiä ja koulutusta sekä kongressille että toimeenpaneville virastoille, kaventaen ymmärryksen aukkoja.
Toner totesi, että merkittävä haaste ei ehkä ole yksittäisten toimijoiden tiedon puute, vaan institutionaalinen kyky panna täytäntöön ja valvoa merkityksellistä tekoälyn sääntelyä kilpailevien prioriteettien keskellä.
Teknologian saralla Toner keskusteli johtavien tekoälylaboratorioiden, kuten OpenAI:n ja Anthropicin, kunnianhimoisista tavoitteista rakentaa rekursiivisesti itsensä parantavia järjestelmiä, jotka johtavat kohti superälyä — prosessia, jota kutsutaan rekursiiviseksi itsensä parantamiseksi (RSI). Tämä visio, joka juontaa juurensa vuosikymmeniä vanhoista tekoälyteorioista, sisältää kiihdyttävän kierteen yhä kykenevämmistä tekoälyjärjestelmistä, mahdollisesti huipentuen mullistavaan älytasoon.
Vaikka Toner myönsi keinotekoisen yleisälyn (AGI) erilaisia määritelmiä, hän varoitti, että termiä on tulossa vähemmän käyttökelpoiseksi kykyjen kehittyessä; monet mallit täyttävät nyt joitakin AGI:n kriteerejä, mutta todellista superälyä ei ole vielä todistettu.
Hän ilmaisi varovaista avoimuutta mahdollisuudesta saavuttaa superäly nykyisten teknologisten kehityskulkujen puitteissa ja neuvoi vakavasti valmistautumaan erilaisiin skenaarioihin ilman ennenaikaista oletusta väistämättömyydestä.
Tekoälyn tietoisuuteen ja moraaliseen asemaan liittyen Toner myönsi epävarmuuden, huomauttaen tietoisuuden tieteellisen epämääräisyyden ja eettiset riskit tekoälyn tunteellisuuden virhearvioinnissa. Hän havainnollisti näitä haasteita viittaamalla Anthropicin monimutkaiseen näkemykseen siitä, onko heidän Claude-mallinsa "elossa" tai moraalisesti merkittävä.
Tonerin pohdinnat korostavat tekoälyn turvallisuuden kietoutuneita haasteita: hallintorakenteet kamppailevat tehtävän omistautumisen varmistamiseksi, päättäjät pyrkivät ymmärtämään monimutkaista teknologiaa kilpailevien vaatimusten keskellä, ja tekoälyn kehittäjät navigoivat syvissä eettisissä ja teknisissä epävarmuuksissa. Hän ehdotti, että tulevaisuuden polku vaatii hienostunutta ymmärrystä, vahvoja instituutioita ja varovaista mutta ennakoivaa sääntelyä hallitsemaan tekoälyn nopeaa kehitystä ja sen yhteiskunnallisia vaikutuksia.
Lähteet ja alkuperäiset raportit
Lue alkuperäinen lähde ↗

Kommentit (0)
Ei vielä kommentteja. Aloita keskustelu.
Kirjoita kommentti
Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili