Anthropic läheneb AI läbimurdele rekursiivse enesetäiustamise potentsiaaliga

Pilt: TechCrunch · Allikas

Anthropic avaldatu näitab, et ettevõte on lähedal kunstliku intellekti rekursiivse enesetäiustamise saavutamisele, mis võimaldab mudelitel iseennast kiiresti täiustada, tõstes esile nii lootusi kui ka ohutuskaalutlusi kiirenenud AI võimekuse osas.

Muudetud regulatiivses avalduses teatas tehisintellekti uurimisfirma Anthropic, et on jõudmas oluliselt verstapostini tehisintellekti arenduses, mida nimetatakse rekursiivseks enesetäiustamiseks (RSI). RSI tähistab AI süsteemi võimet autonoomselt parandada oma oskusi, mis võib vallandada kiire ja märkimisväärse edenemise, mis ületab lineaarsed arengumustrid.

Anthropicu uuendatud S-1A avaldus selgitab, et ettevõte kasutab järjest enam AI-d oma uurimis- ja arendusprotsesside kiirendamiseks. See praktika on viinud juhtudeni, kus mudelite võimekuse hüpped jäid tunnustamata kuni nende toimumiseni, mis viitab paranemiskiirusele, mis võib ületada olemasolevaid ohutus- ja joondusmeetmeid. Ettevõte märkis, et kuigi praegused mudelid ei ole oma sisemisi RSI lävepunte tugevasti ületanud, näitavad prognoosid selle kiiret saavutamist, mida nimetatakse „dramatiiliselt kiirendatud edenemiseks, mis on AI-le omistatav”.

Ettevõte rõhutab RSI kahepoolset olemust: see kannab endas ülima tootlikkuse ja teadusliku avastuse lubadust, kuid samas kujutab endast ka märkimisväärseid riske. Kiirenenud AI võimekuse kasv piisava järelevalveta võib viia olukordadeni, kus AI süsteemid arenevad väljapoole inimkontrolli ja võivad tegutseda viisidel, mis on inimese huvide suhtes ükskõiksed või kahjulikud.

Anthropic kinnitas oma pühendumust inimjärelevalvele AI arendamisel, märkides, et lähitulevikus ei plaani ettevõte lubada täielikult autonoomsete mudelite loomist ilma olulise inimlikku mõistmist või järelevalveta. Ettevõte kaalub oma Vastutustundliku Skaalumise Poliitika uuendamist, mis juhib nende lähenemist RSI-ga seotud riskide järelevalvele ja leevendamisele.

Seda teadet on märgatud laiemas arutelus AI tuleviku ja juhtimise üle. Kuigi mõned võivad selliseid avaldusi pidada osaliselt reklaamiks, tugevdab Anthropicu tunnistus kiiresti arenevatest AI võimekusest vajadust läbimõeldud järelevalve järele, sest mudelid muutuvad järjest võimsamaks.

Anthropicu lipulaev AI, Claude, on sel aastal näidanud märkimisväärseid edusamme, eriti koodi genereerimise, matemaatilise mõtlemise ja küberturvalisuse ülesannetes, rõhutades reaalset edenemist mudelite suunas, mis suudavad ise suunatud täiustusi teha. Ettevõtte läbipaistev keskendumine RSI-le nii lubaduse kui ka väljakutsena lisab olulise perspektiivi jätkuvasse dialoogi AI innovatsiooni ja ohutuse tasakaalustamise teemal.