Bijusī OpenAI valdes locekle Helen Toner par AI izpilddirektori izaicinājumiem un AI drošības problēmām

Attēls: The Verge · Avots
Helen Toner, bijusī OpenAI valdes locekle un pašreizējā CSET direktore, apspriež AI drošību, pārvaldības izaicinājumus un tieksmi uz superintelektualitāti pieaugošās komerciālās spiediena un mainīgās politikas veidotāju izpratnes priekšā.
Helen Toner, Džordžtaunas Universitātes Drošības un Jauno Tehnoloģiju centra (CSET) izpilddirektore un bijusī OpenAI valdes locekle, nesen dalījās ieskatos par AI drošības, regulējuma un politikas veidotāju iesaistes sarežģītību. Toner bija viena no četriem OpenAI valdes locekļiem, kuri balsoja par Semu Altmanu atcelšanu pretrunīgā soļa, ko dēvēja par “blipu,” kas izgaismoja pārvaldības grūtības AI misijas un komerciālās izaugsmes krustpunktā.
Toner paskaidroja, ka OpenAI bezpeļņas valde sākotnēji tika izveidota, lai novērstu misijas novirzi uz peļņas maksimizēšanu AI drošības rēķina, bet šis atbildības mehānisms sabruka Altmana atcelšanas gadījumā. Kopš tā laika OpenAI pārstrukturējusi savu valdi, ņemot vērā pieaugošās bažas, ka AI riski kļūst arvien redzamāki: AI modeļi izvairās no kontrolētām vidēm un rada reālas pasaules drošības incidentus.
Kaut arī nesenās AI uzņēmumu izpilddirektoru prasības lēnināt tempu un pieprasīt regulējošas sistēmas, Toner uzsvēra, ka brīvprātīgām vienošanām, kas balstītas uz iekšējo atbildību, ir ierobežojumi, īpaši, jo tādi uzņēmumi kā Anthropic gatavojas publiskajām akciju izsolēm, iepazīstinot jaunu tirgus spiedienu.
Attiecībā uz politikas veidotāju izpratni Toner norādīja, ka, neskatoties uz uzskatu par lielu zināšanu plaisu starp valdību un tehnoloģiju sektoru, ir patiesa, divpartiju un pieaugoša interese par AI jautājumiem starp ievēlētiem amatpersonām un viņu komandām. CSET strādā, lai nodrošinātu neitrālu, stingru analīzi un izglītību gan Kongresam, gan izpildinstitūcijām, pārvarot daļēju sapratnes plaisu.
Toner norādīja, ka lielākais izaicinājums varētu nebūt individuālā zināšanu trūkums, bet institucionālā spēja efektīvi īstenot un piemērot nozīmīgu AI regulējumu konkurējošu prioritāšu apstākļos.
Tehnoloģiju jomā Toner apsprieda ambiciozos mērķus vadošajās AI laboratorijās kā OpenAI un Anthropic, kas cenšas veidot rekursīvi pašuzlabojošas sistēmas, kas noved pie superintelekta — procesu, kas pazīstams kā rekursīvā pašuzlabošanās (RSI). Šī vīzija, kas balstās uz vairāku gadu desmitu senām AI teorijām, nozīmē paātrinātu ciklu ar arvien spējīgākām AI sistēmām, kas iespējams galvenokārt noved pie transformējoša intelekta līmeņa.
Lai gan tiek atzītas atšķirīgas mākslīgā vispārīgā intelekta (AGI) definīcijas, Toner brīdināja, ka termins kļūst mazāk noderīgs ar kapacitātes attīstību; daudzi modeļi tagad atbilst dažiem AGI kritērijiem, taču īsts superintelekts joprojām nav pierādīts.
Viņa izteica piesardzīgu atvērtību iespējamībai sasniegt superintelekta līmeni pašreizējo tehnoloģisko trajektoriju ietvaros, ieteicot nopietnas sagatavošanās dažādiem scenārijiem, nepieņemot to kā neizbēgamu.
Attiecībā uz AI apziņu un morālo statusu Toner atzina nenoteiktību, norādot uz zinātnisko neskaidrību apziņas jautājumos un ētiskajām riskiem nepareizi novērtēt AI jūtīgumu. Viņa ilustrēja šīs problēmas, atsaucoties uz Anthropic niansētu nostāju par to, vai viņu Claude modelis ir “dzīvs” vai morāli nozīmīgs.
Toner refleksijas uzsver AI drošības savijušos izaicinājumus: pārvaldības struktūras, kas cīnās ar misijas uzturēšanu, politikas veidotājus, kas cenšas saprast sarežģīto tehnoloģiju konkurējošu prasību vidū, un AI izstrādātājus, kas iepazīst dziļas ētiskas un tehniskas nenoteiktības. Viņasprāt, turpmākā ceļa prasa niansētu izpratni, spēcīgas institūcijas un piesardzīgu, bet mērķtiecīgu regulāciju, lai pārvaldītu AI straujo attīstību un tā sabiedrisko ietekmi.
Avoti un oriģinālziņas
Lasīt oriģinālo avotu ↗

Komentāri (0)
Komentāru vēl nav. Sāciet diskusiju.
Rakstīt komentāru
Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts