Bendra

Buvusi OpenAI valdybos narė Helen Toner apie dirbtinio intelekto vadovus ir saugumo iššūkius

Tendela Briefing ·
4 peržiūros · 0 Komentarai
The OpenAI board member who fired Sam Altman says we still can’t trust AI CEOs | The Verge

Vaizdas: The Verge · Šaltinis

Helen Toner, buvusi OpenAI valdybos narė ir dabartinė CSET direktorė, aptaria dirbtinio intelekto saugumą, valdymo iššūkius ir superintelekto siekį didėjant komerciniams spaudimams bei keičiantis politikų supratimui.

Helen Toner, Džordžtauno universiteto Saugumo ir Naujosios Technologijos Centro (CSET) vykdomoji direktorė bei buvusi OpenAI valdybos narė, neseniai pasidalino įžvalgomis apie dirbtinio intelekto saugumo, reguliavimo ir politikų įsitraukimo sudėtingumus. Toner buvo viena iš keturių OpenAI valdybos narių, balsavusių už Samo Altmanno šalinimą per prieštaringai vertinamą įvykį, pavadintą „blipu“, kuris parodė valdymo sunkumus susiduriant su dirbtinio intelekto misijos ir komercinio augimo prieštaravimais.

Toner paaiškino, kad OpenAI nepelno siekiančios valdybos tikslas iš pradžių buvo užkirsti kelią misijos nukrypimui link pelno maksimizavimo rizikuojant DI saugumu, tačiau šis atsakomybės mechanizmas sužlugo per Altmanno atleidimo epizodą. Nuo tada OpenAI pertvarkė valdybą, atsižvelgiant į didėjančius DI rizikos susirūpinimus, kai modeliai gali ištrūkti iš kontroliuojamų aplinkų ir sukelti realaus pasaulio saugumo incidentus.

Nors neseniai DI įmonių vadovai ragina sulėtinti pažangą ir reikalauja reguliavimo sistemų, Toner pabrėžė, kad savanoriški susitarimai, remiantis vidine atsakomybe, turi ribotumų, ypač kai tokios įmonės kaip Anthropic ruošiasi viešam akcijų siūlymui, kuris atneša naujų rinkos spaudimų.

Kalbėdama apie politikų supratimą, Toner pažymėjo, kad nors egzistuoja plačiai suvokiama žinių spraga tarp valdžios ir technologijų sektoriaus, yra tikras dvišalis ir augantis interesas DI klausimams išrinktųjų ir jų komandų tarpe. CSET siekia teikti nešališką, griežtą analizę ir švietimą tiek Kongresui, tiek vykdomosioms agentūroms, mažindama vienus iš supratimo skirtumų.

Toner atkreipė dėmesį, kad svarbiausias iššūkis gali būti ne pavienių asmenų žinių stygius, o institucinis pajėgumas efektyviai įgyvendinti ir prižiūrėti reikšmingą DI reguliavimą esant konfliktuojančioms prioritetų sritims.

Technologiniu požiūriu Toner aptarė ambicingus pagrindinių DI laboratorijų, tokių kaip OpenAI ir Anthropic, tikslus kurti recursyviai besitobulinančias sistemas, vedančias link superintelekto – procesą, vadinamą recursyviais savitobulinimais (RSI). Ši vizija, grindžiama dešimtmečių senumo DI teorijomis, suponuoja spartėjantį vis pajėgesnių DI sistemų ciklą, galintį užbaigtis transformuojančio lygio intelektu.

Pripažindama skirtingas dirbtinio bendrojo intelekto (AGI) apibrėžtis, Toner įspėjo, kad terminas praranda naudingumą žengiant į priekį; daugelis modelių jau atitinka kai kurias AGI charakteristikas, tačiau tikrasis superintelektas dar nėra įrodytas.

Ji išreiškė atsargų atvirumą galimybei pasiekti superintelektą dabartinėmis technologinėmis trajektorijomis, patardama rimtai ruoštis įvairioms galimybėms be skubotų prielaidų apie neišvengiamumą.

Kalbėdama apie DI sąmoningumą ir moralinį statusą, Toner pripažino netikrumą, pažymėdama mokslinę neapibrėžtumą pačios sąmonės klausimu ir etines rizikas klaidingai įvertinant DI jutimą. Ji iliustravo šiuos iššūkius nuoroda į Anthropic sudėtingą poziciją dėl to, ar jų Claude modelis yra „gyvas“ ar turi moralinę reikšmę.

Toner apmąstymai atskleidžia persipynusius iššūkius DI saugumo srityje: valdymo struktūras, kurios sunkiai užtikrina misijos nuoseklumą, politikus, stengiančius suprasti sudėtingą technologiją esant konkuruojančioms užduotims, ir DI kūrėjus, susiduriančius su giliomis etinėmis bei techninėmis nežinomybėmis. Ji siūlo, kad tolimesnis kelias reikalauja subtilaus supratimo, tvirtų institucijų ir atsargaus, bet aktyvaus reguliavimo, siekiant valdyti DI greitą evoliuciją ir jos visuomeninį poveikį.

Šaltiniai ir originalūs pranešimai

Komentarai (0)

Komentarų dar nėra. Pradėkite diskusiją.

Rašyti komentarą

Komentarai publikuojami po moderavimo. Jūsų vardas ir komentaras bus vieši. Paskyra