Uuring näitab, et Anthropic’i tehisintellekti areng kiireneb kiiresti ohutusprobleemide taustal

Pilt: Why a new report on Anthropic automating AI development is alarming researchers · Allikas

METR-i uurimus leiab, et Anthropic’i tehisintellekti mudelid arenevad kaks korda kiiremini kui aasta tagasi, peamiselt tehisintellekti abistatud töö tõttu, mis tekitab muret kiire AI enesetäiustamise ja avaliku läbipaistvuse piirangute pärast.

Tehisintellekti ohutuse uurimisrühm METR avaldas põhjaliku aruande, milles selgitatakse, et Anthropic kasutab oma AI arenduse kiirendamiseks samuti tehisintellekti, kusjuures ettevõtte mudelid paranevad ligikaudu kaks korda kiiremini kui aasta tagasi. See kiire areng tuleneb eelkõige AI-toega teadustööst, mis on oluliselt suurendanud töötajate tootlikkust, mitte ainult arvutusressursside suurendamisest.

METR-i 11-nädalase uurimise kohaselt on Anthropic’i sisemised AI tööriistad võimaldanud teadlastel töötada kuni 12 korda efektiivsemalt võrreldes AI-eelse tootlikkusega, ja see tõus on viimastel kuudel veelgi kasvanud.

Aruandes toodi esile, et Anthropic on viimase poole aasta jooksul lõpetanud kolme arenenud AI mudeli koolitamise, mida nimetatakse Model 2, Model 3 ja Model 4. Need mudelid on põhiliseks aluseks ettevõtte tootlikkuse ja kiiruse kasvule. Siiski on Anthropic teinud METR-i avalikus aruandes mahukaid mustandeid, peites paljusid detaile nende arengute kohta. Ettevõte põhjendas seda kui ärisaladuse kaitset ja konkurentide äritegevuse aeglustamist, mis on tekitanud kriitikat läbipaistvuse puudumise tõttu.

Anthropic’i kaasasutaja Sam McCandlish tunnistas, et info piiramisega kaasnevad kompromissid, kuid õigustas otsust riskide haldamise vajadusega, mis on seotud üksikasjaliku kiirendi avaldamisega. Ta märkis, et peagi plaanib ettevõte avaldada oma aruande AI edusammude ja ettevalmistatavate ohutusalaste algatuste kohta.

Need avaldused on teravdanud arutelu tehisintellekti ohutusringkondades, kuna Anthropic positsioneerib end ohutuse eest hooliva liidrina, kiirendades samal ajal AI võimeid kiiresti. Eksperdid rõhutavad, et nii kiire AI-põhine areng võib viia süsteemidele, mis suudavad rekursiivselt iseennast täiustada – AI, mis parandab end minimaalse inimese sekkumisega – varasemate rakendumisajadeni, tekitades muret praeguste ohutus- ja reguleerimismeetmete piisavuse üle.

Kriitikud väljendavad ka rahulolematust Anthropic’i avalike üleskutsete suhtes aeglustada AI arengut, mis on vastuolus ettevõtte kiire arenguga, eriti arvestades ulatuslikke mustandeid, mis piiravad sõltumatut analüüsi. Kasvav on nõudmine läbipaistvuse, sõltumatu järelevalve ning ohutusteadlaste kaasamise järele AI laboritesse. Mõned poliitikud, kes on nende arengute suhtes murelikud, kutsuvad üles karmimatele regulatsioonidele või isegi rekursiivse enesetäiustuva AI uurimise täielikule keelustamisele.

Kokkuvõttes pakub METR-i aruanne üht selgematest vaadetest sellele, kuidas tipptasemel AI uurimus areneb autonoomselt, tuues samal ajal välja olulised väljakutsed avatus, konkurentsihirmude ja ohutusjuhtimise tasakaalustamisel, kuna see tehnoloogia areneb kiirelt.