Pārskats atklāj, ka Anthropic AI izstrāde strauji paātrinās drošības bažu vidū

Attēls: Why a new report on Anthropic automating AI development is alarming researchers · Avots

METR izmeklēšana konstatē, ka Anthropic AI modeļi attīstās divreiz ātrāk nekā pirms gada, ko lielā mērā veicina AI atbalstīta palīdzība, izraisot bažas par ātru AI pašpilnveidošanos un ierobežotu publisko caurspīdīgumu.

Īpaši detalizēts pārskats, ko publicējusi mākslīgā intelekta drošības pētniecības grupa METR, atklāj, ka Anthropic izmanto AI, lai paātrinātu sava mākslīgā intelekta izstrādi, uzņēmuma modeļiem uzlabojoties aptuveni divreiz ātrāk nekā gadu iepriekš. Šo straujo progresu galvenokārt skaidro AI atbalstīta pētniecība, kas būtiski palielinājusi darbinieku produktivitāti, ne tikai palielinot skaitļošanas resursus.

Saskaņā ar METR 11 nedēļu izmeklēšanu Anthropic iekšējie AI rīki ir ļāvuši pētniekiem strādāt līdz pat 12 reizēm efektīvāk salīdzinājumā ar produktivitātes līmeni pirms AI izmantošanas, un šis pieaugums ir palielinājies pēdējos mēnešos.

Pārskats uzsver, ka Anthropic pēdējo sešu mēnešu laikā ir pabeidzis trīs progresīvu AI modeļu apmācību, kas visi vēl nav publiskoti un ir dēvēti par Model 2, Model 3 un Model 4. Šie jaunākie modeļi ir pamats uzņēmuma produktivitātes un ātruma pieaugumam. Tomēr Anthropic ir veicis plašas redakcijas METR publiskajā pārskatā, aizsedzot daudzus konkrētus datus par šiem sasniegumiem. Uzņēmums skaidroja redakcijas ar komerciāli sensitīvas informācijas aizsardzību un konkurentu aizkavēšanas nolūkiem, kas ir izraisījis kritiku par nepietiekamu caurspīdīgumu.

Anthropic līdzdibinātājs Sems Makkendliss atzina kompromisus, ierobežojot informāciju, taču aizstāvēja šo lēmumu kā nepieciešamu riska pārvaldībai, saistībā ar detalizētu paātrinātāju atklāšanu. Viņš norādīja, ka nākotnē uzņēmums plāno publicēt savu pārskatu par AI progresu un gaidāmajām drošības iniciatīvām.

Šie atklājumi ir pastiprinājuši diskusijas mākslīgā intelekta drošības kopienā, jo Anthropic pozicionē sevi kā drošības apzinīgu līderi, vienlaikus strauji palielinot AI spējas. Eksperti uzsver, ka tik ātra AI vadīta attīstība var paātrināt sistēmu, kas spēj rekursīvi pašpilnveidoties — AI, kas uzlabo sevi ar minimālu cilvēka iesaisti — ieviešanas termiņus, radot bažas par pašreizējo drošības un regulējuma pasākumu pietiekamību.

Kritiķi arī pauž neapmierinātību par Anthropic pretrunīgajām publiskajām aicinājumiem palēnināt AI attīstību, kas ir pretrunā ar tā pašreizējo trajektoriju, īpaši ņemot vērā plašās redakcijas, kas apgrūtina neatkarīgu analīzi. Pieaug prasības pēc lielākas caurspīdīguma, neatkarīgas uzraudzības un drošības pētnieku iekļaušanas AI laboratorijās. Daži politiķi, satraukti par šiem notikumiem, aicina pastiprināt regulējumus vai pilnībā aizliegt rekursīvas pašpilnveidojošas AI izpētes veikšanu.

Kopumā METR pārskats sniedz vienu no skaidrākajiem ieskatiem par to, kā modernākie AI pētījumi paātrinās autonomi, vienlaikus norādot uz būtiskām problēmām, līdzsvarojot atklātību, konkurences intereses un drošības pārvaldību, jo šī tehnoloģija attīstās ļoti strauji.