Anthropic artėja prie AI proveržio su rekursinio savęs tobulinimo potencialu

Vaizdas: TechCrunch · Šaltinis

Anthropic neseniai pateikta ataskaita atskleidžia, kad įmonė beveik pasiekė rekursinio savęs tobulinimo dirbtiniame intelekte etapą, leidžiantį modeliams sparčiai tobulėti patiems, keliančią tiek viltis, tiek saugumo klausimų dėl spartėjančių AI gebėjimų.

Atnaujintoje reguliavimo ataskaitoje dirbtinio intelekto tyrimų bendrovė Anthropic atskleidė, kad artėja prie svarbaus dirbtinio intelekto plėtros etapo, vadinamo rekursiniu savęs tobulinimu (RSI). RSI reiškia AI sistemos gebėjimą autonomiškai gerinti savo sugebėjimus, galimai sukeliančią greitus ir reikšmingus proveržius, viršijančius linijinį progresą.

Anthropic atnaujintoje S-1A ataskaitoje paaiškino, kad vis dažniau naudoja AI savo tyrimų ir plėtros procesų spartinimui. Ši praktika lėmė atvejų, kai modelių gebėjimų šuoliai buvo pastebėti tik po įvykio, kas rodo tobulėjimo tempą, galintį viršyti esamas saugumo ir suderinamumo priemones. Įmonė pažymėjo, kad nors dabartiniai modeliai kol kas neviršijo jų vidinio RSI slenksčio, prognozuojama, jog netrukus gali būti pasiektas tai, ką jie vadina „dramatiškai spartėjančiu progresu, priskirtinu AI“.

Įmonė pabrėžia RSI dviprasmiškumą: nors tai žada transformaciją, suteikiant naują produktyvumo ir mokslinių atradimų lygį, taip pat kyla rimtų rizikų. Spartus AI gebėjimų augimas be tinkamo priežiūros gali sukelti situacijas, kai AI sistemos vystosi už žmogaus kontrolės ribų ir gali elgtis abejingai arba kenksmingai žmonių interesams.

Anthropic patvirtino savo įsipareigojimą priežiūrai AI kūrimo procese, nurodydama, kad netrukus nesitiki leisti visiškai autonomiškai kurti modelių be išsamaus žmogaus supratimo ar priežiūros. Įmonė svarsto atnaujinti savo Atsakingo Masto Didinimo Politiką, reguliuojančią jų požiūrį į RSI rizikų stebėseną ir mažinimą.

Šis pranešimas sulaukė dėmesio platesniame AI raidos ir valdymo kontekste. Nors kai kurie gali laikyti tokius dokumentus iš dalies reklaminiais, Anthropic pripažinimas apie sparčiai kintančius AI gebėjimus sustiprina poreikį atsakingai stebėti, kai modeliai tampa vis galingesni.

Anthropic pagrindinis AI produktas Claude šiais metais demonstravo reikšmingą pažangą, ypač kodų generavimo, matematinio mąstymo ir kibernetinio saugumo srityse, pabrėžiant realų progresą link modelių, kurie gali savarankiškai tobulėti. Įmonės skaidrus dėmesys RSI kaip pažadui ir iššūkiui prideda svarbią perspektyvą vykstančiame dialoge apie AI inovacijų ir saugumo pusiausvyrą.