Üldine

Endine OpenAI juhatuse liige Helen Toner tehisintellekti tegevjuhtidest ja AI ohutuse väljakutsetest

Tendela Briefing ·
4 vaatamist · 0 Kommentaarid
The OpenAI board member who fired Sam Altman says we still can’t trust AI CEOs | The Verge

Pilt: The Verge · Allikas

Helen Toner, endine OpenAI juhatuse liige ja praegune CSETi direktor, arutleb AI ohutuse, regulatsiooni väljakutsete ja superintelligentsuse võimaluste üle kasvava ärilise surve ja poliitikakujundajate teadlikkuse taustal.

Helen Toner, Georgetowni Ülikooli Julgeoleku ja Uute Tehnoloogiate Keskuse (CSET) tegevdirektor ning endine OpenAI juhatuse liige, jagas hiljuti mõtteid AI ohutuse, regulatsiooni ja poliitikakujundajate kaasamise keerukustest. Toner oli neljast OpenAI juhatuse liikmest üks, kes hääletas vastu Sam Altmani vallandamisele vastuolulises juhtumis, mida nimetati „blipiks“ ja mis tõi esile valitsemisraskused AI missiooni ja ärilise kasvu ristumiskohas.

Toner selgitas, et OpenAI mittetulundusliku juhatuse eesmärk oli algselt takistada missioonist kõrvale kaldumist kasumimaksimeerimise nimel AI ohutuse arvelt, kuid see vastutuskord kukkus Altmani vallandamise episoodi ajal läbi. Sellest ajast alates on OpenAI oma juhatust restruktureerinud kasvavate AI riskide tõttu, sealhulgas AI mudelite kontrollitud keskkondadest väljapääsemise ja reaalse maailma turvariskide tekke pärast.

Kuigi hiljutised üleskutsed AI ettevõtjate poolt kutsuvad aeglustama tehnoloogilist arengut ja nõuavad regulatiivseid raamistikke, rõhutas Toner, et vabatahtlikel kokkulepetel põhinevat sisemist vastutust ei piisa, eriti kui ettevõtted nagu Anthropic valmistuvad avalikuks börsile minekuks, mis lisab uusi turusurveid.

Poliitikakujundajate teadlikkuse osas tõi Toner välja, et vaatamata arvamusele, et valitsuse ja tehnoloogiasektori vahel on ulatuslik teadmiste lõhe, valitseb valitsejate ja nende meeskondade seas siiras ja kasvav kahepoolselt toetatud huvi AI teemade vastu. CSET töötab selle nimel, et pakkuda parteipoliitiliselt neutraalset ja põhjalikku analüüsi ning haridust nii Kongressile kui ka täitevagentuuridele, aidates mõningaid arusaamislüngasid ületada.

Toner tõi esile, et suurim väljakutse ei pruugi olla üksikisiku teadmiste puudumine, vaid institutsionaalne võimekus tõhusalt rakendada ja jõustada sisukaid AI regulatsioone konkurentsitihedate prioriteetide keskel.

Tehnoloogia valdkonnas rääkis Toner juhtivatest AI laboritest nagu OpenAI ja Anthropic, mis püüdlevad ambitsioonikate eesmärkide poole — luua rekursiivselt iseennast täiustavaid süsteeme, mis viivad superintelligentsuseni, protsessi, mida tuntakse rekursiivse enesetäiendamise (RSI) nime all. See visioon, mille aluseks on aastakümneid vana AI teooria, tähendab kiiresti arenevat tsüklit järjest võimekamatest AI süsteemidest, mis võivad lõpuks saavutada transformatiivse intelligentsuse tasemed.

Kuigi võetakse arvesse erinevaid tehisintellekti üldise intelligentsuse (AGI) definitsioone, hoiatas Toner, et mõiste muutub vähem kasulikuks võimete arenguga; paljud mudelid vastavad juba mõningatele AGI kriteeriumidele, kuid tõeline superintelligentsus on endiselt tõestamata.

Ta väljendas ettevaatlikku avatust võimalusele jõuda superintelligentsini praeguste tehnoloogiliste arengute raames, soovitades tõsist ettevalmistust mitmesugusteks stsenaariumideks, ilma enneaegselt pidama seda paratamatuks.

AI teadvuse ja moraalse staatuse osas tunnistas Toner ebaselgust, märkides, et teaduslikud teadmised teadvuse kohta on endiselt ebamäärased ja AI tundlikkuse hindamisel on eetilised riskid. Ta illustreeris neid väljakutseid viidates Anthropicu nüansirohketele seisukohtadele selle kohta, kas nende Claude mudel on „elus“ või moraalselt oluline.

Toner rõhutas keerukate väljakutsete põimimist AI ohutuse valdkonnas: juhtimisstruktuurid võitlevad missiooni elluviimise tagamise eest, poliitikakujundajad püüavad mõista keerukat tehnoloogiat konkurentsitihedas keskkonnas ning AI arendajad navigeerivad sügavate eetiliste ja tehniliste ebakindluste vahel. Tema sõnul nõuab edasine tee nüansirohket arusaamist, tugevaid institutsioone ja ettevaatlikku, kuid aktiivset regulatsiooni, et hallata AI kiiret arengut ja selle mõju ühiskonnale.

Allikad ja originaaluudised

Allikas: The Verge
Loe originaali allikat ↗

Kommentaarid (0)

Kommentaare veel pole. Alusta arutelu.

Kirjuta kommentaar

Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto