Ataskaita atskleidžia, kad „Anthropic“ AI vystymas sparčiai spartėja, nepaisant saugumo susirūpinimo

Vaizdas: Why a new report on Anthropic automating AI development is alarming researchers · Šaltinis

METR tyrimas atskleidžia, kad „Anthropic“ AI modeliai tobulėja dvigubai greičiau nei prieš metus, daugiausiai dėl AI pagalbos, sukeldami susirūpinimą dėl spartaus AI savęs tobulinimo ir ribotos viešos skaidrumo.

Detalioje ataskaitoje, paskelbtoje AI saugumo tyrimų grupės METR, atskleidžiama, kad „Anthropic“ naudoja AI spartinti savo AI vystymą, įmonės modeliams gerėjant maždaug dvigubai greičiau nei prieš metus. Šis spartus pažangumas daugiausia priskiriamas AI pagalbai moksliniuose tyrimuose, reikšmingai didinančiai darbuotojų produktyvumą, o ne vien tik skaičiavimo išteklių mastelio didinimui. Pasak METR 11 savaičių trukmės tyrimo, „Anthropic“ vidiniai AI įrankiai leido tyrėjams dirbti iki 12 kartų efektyviau, palyginti su pre-AI produktyvumo lygiu, ir šis augimas stiprėjo pastaraisiais mėnesiais.

Ataskaita pabrėžia, kad per pastaruosius šešis mėnesius „Anthropic“ baigė mokyti tris pažangius AI modelius, kurie visi liko nepaskelbti ir turi kodinius pavadinimus Model 2, Model 3 ir Model 4. Šie naujausi modeliai sudaro didžiąją dalį įmonės produktyvumo ir spartiesiems augimui. Vis dėlto „Anthropic“ iš esmės cenzūravo daugelį šių vystymų specifinių detalių viešai prieinamoje METR ataskaitos versijoje. Įmonė tai motyvavo komercinės informacijos apsauga ir siekiu užkirsti kelią konkurentams greitai pažangai – pozicija, sulaukusi kritikos dėl nepermatomumo.

„Anthropic“ bendraįkūrėjas Samas McCandlish pripažino kompromisus ribojant informaciją, tačiau gynė šį sprendimą kaip būtinybę valdyti rizikas, susijusias su detalių spartinimo veiksnių atskleidimu. Jis pažymėjo, kad „Anthropic“ artimiausiu metu planuoja paskelbti savo ataskaitą apie AI pažangą ir būsimas saugumo iniciatyvas.

Šie atskleidimai sustiprino diskusijas AI saugumo bendruomenėje, nes „Anthropic“ save pozicionuoja kaip saugumo sąmoningą lyderį, greitai spartindamas AI galimybes. Ekspertai pabrėžia, kad toks spartus AI valdomas vystymas gali paspartinti laikotarpius, kada sistemos gebės rekursyviai savi tobulėti – AI tobulinantis save su minimaliu žmogaus įsikišimu – sukeldamas susirūpinimą dėl dabartinių saugumo ir reguliavimo priemonių pakankamumo.

Kritikai taip pat reiškia nusivylimą dėl „Anthropic“ prieštaringų viešų raginimų lėtinti AI pažangą, kurie prieštarauja dabartinei raidai, ypač atsižvelgiant į didelę cenzūrą, ribojančią nepriklausomą analizę. Vis garsiau skamba raginimai didinti skaidrumą, nepriklausomą priežiūrą ir įtraukti saugumo tyrėjus AI laboratorijose. Kai kurie politikai, sunerimę dėl šių vystymų, ragina griežtesnius reglamentus arba tiesioginius draudimus rekursyviai savęs tobulinančioms AI tyrimų kryptims.

Apskritai METR ataskaita suteikia vieną aiškiausių įžvalgų apie tai, kaip pažangūs AI tyrimai spartėja autonomiškai, tačiau taip pat pabrėžia reikšmingus iššūkius derinant atvirumą, konkurencijos rūpesčius ir saugumo valdymą, kai ši technologija sparčiai juda į priekį.