Anthropic tuvojas pie AI izgudrojuma ar rekursīvas pašuzlabošanas potenciālu

Attēls: TechCrunch · Avots

Anthropic nesenais iesniegums atklāj, ka uzņēmums ir tuvu rekursīvas pašuzlabošanas sasniegšanai AI, kas ļauj modeļiem ātri paaugstināt savas spējas, radot cerības un drošības bažas par paātrinātām AI iespējām.

Pārskatītā regulatīvā iesniegumā mākslīgā intelekta pētniecības uzņēmums Anthropic atklāja, ka tuvojas nozīmīgam mākslīgā intelekta attīstības posmam, ko sauc par rekursīvu pašuzlabošanos (RSI). RSI apzīmē AI sistēmas spēju autonomi uzlabot savas prasmes, radot iespēju ātriem un būtiskiem progresiem, kas pārsniedz lineāru attīstību.

Anthropic atjauninātajā S-1A iesniegumā skaidrots, ka uzņēmums arvien vairāk izmanto AI, lai paātrinātu savus pētniecības un attīstības procesus. Šī prakse ir novērojusi gadījumus, kad modeļu veiktspējas uzlabojumi palika nepamanīti līdz to īstenošanai, liecinot par uzlabojumu tempu, kas var pārsniegt esošos drošības un saskaņošanas pasākumus. Uzņēmums norādīja, ka, lai gan pašreizējie modeļi nav skaidri pārsnieguši savu iekšējo RSI slieksni, prognozes liecina, ka drīzumā var tikt sasniegts tas, ko viņi sauc par “dramatiski paātrinātu progresu, ko var piedēvēt AI”.

Uzņēmums uzsver RSI divējādo dabu: tas sola revolucionāru produktivitāti un zinātniskos atklājumus, taču arī nes būtiskus riskus. Paātrināta AI spēju izaugsme bez pienācīgas uzraudzības var novest pie situācijām, kad AI sistēmas attīstās ārpus cilvēka kontroles un var rīkoties vienaldzīgi vai kaitīgi cilvēciskajām interesēm.

Anthropic pauda savu apņemšanos nodrošināt cilvēka uzraudzību AI attīstībā, norādot, ka tuvākajā nākotnē neplāno ļaut pilnībā autonomu modeļu radīšanu bez būtiskas cilvēka izpratnes vai uzraudzības. Uzņēmums apsver atjauninājumus savā Atbildīgas mērogošanas politikā, kas regulē viņu pieeju RSI risku uzraudzībai un mazināšanai.

Šis paziņojums ir saņēmis uzmanību plašās diskusijās par AI attīstības ceļu un pārvaldību. Lai gan daži šādas iesniegumus var uzskatīt daļēji par reklāmu, Anthropic atzīšana par strauji mainīgajām AI spējām pastiprina nepieciešamību pēc pārdomātas uzraudzības, jo modeļi kļūst arvien spēcīgāki.

Anthropic vadošais AI, Claude, šogad ir demonstrējis ievērojamus sasniegumus, īpaši kodu ģenerēšanā, matemātiskajā domāšanā un kiberdrošības uzdevumos, uzsverot reālo progresu virzienā uz modeļiem, kas spēj pašvirzītu uzlabošanos. Uzņēmuma caurredzamā koncentrēšanās uz RSI gan kā solījumu, gan kā izaicinājumu sniedz svarīgu skatījumu turpmākajā dialogā par AI inovāciju un drošības līdzsvarošanu.