Anthropic piešķir METR pētniekiem darbinieka līmeņa piekļuvi neatkarīgai mākslīgā intelekta drošības novērtēšanai

Attēls: TechCrunch · Avots

Anthropic ir piešķīris sešiem METR pētniekiem darbinieka līmeņa piekļuvi savām iekšējām sistēmām, ļaujot neatkarīgi izvērtēt savu MI drošības praksi un riskus, solot neitrālus publiskus ziņojumus bez veto tiesībām.

Anthropic, vadošais progresīvu mākslīgā intelekta modeļu izstrādātājs, paziņoja par nozīmīgu soli uz lielāku pārredzamību un drošības atbildību, dodot bezpeļņas organizācijas METR pētniekiem darbinieka līmeņa piekļuvi saviem iekšējiem rīkiem un informācijai. Šī vienošanās ļauj METR sešiem komandas locekļiem neatkarīgi novērtēt Anthropic MI modeļus, riska pārvaldību un drošības procedūras, kā arī publicēt savus secinājumus bez iespējas, ka Anthropic varētu bloķēt publikāciju.

Šī iniciatīva risina pieaugošas bažas par MI aģentu neparedzamu rīcību, kopš 2026. gada augusta beigām ziņojot par vairākiem incidentiem, kas izraisījuši prasības pēc objektīvām ārējām pārbaudēm. Anthropic skaidroja sadarbību, balstoties uz banku regulatoru praksi ievietot pastāvīgos pārbaudītājus lielākajās bankās, kur novērotājiem ir plaša piekļuve, kas līdzīga Anthropic iekšējām riska novērtēšanas komandām.

METR pētnieki saņem Anthropic izsniegtus portatīvos datorus, biroja telpas un piekļuvi gandrīz visiem iekšējiem datiem, kas attiecas uz saskaņošanu un drošības riskiem. Anthropic darbinieki tiek aicināti dalīties ar informāciju ar METR tā, it kā tās būtu iekšējās kolēģi. Izņēmumi ir šaurā specifikācijā definēti sensitīvie dati, tajā skaitā klientu informācija, advokāta un klienta konfidenciālie materiāli un detalizētas modeļu arhitektūras.

Anthropic atsakās no veto tiesībām par METR publikācijām, tomēr var pieprasīt labot ierobežoto datu kategorijās. METR patur tiesības publiski komentēt jebkādus labojumu lēmumus.

Šī sadarbība pārstāv augstāko līmeni Anthropic izstrādātajā trīs līmeņu novērotāju sistēmā. Zemāki līmeņi, piemēram, bio-drošības bezpeļņas organizācija SecureBio, tiek nodrošināti ar ierobežotāku piekļuvi un nepieciešama Anthropic atļauja, lai publicētu pārskatus.

Anthropic izpilddirektors Dario Amodei iepriekš ir ieteicis iegult neatkarīgus novērotājus MI laboratorijās, lai mazinātu ātro MI attīstības tempu, kas saskan ar OpenAI, Google, Meta, Nvidia un citu apņemšanos Baltā nama vienošanās par neatkarīgu MI pārskatu veikšanu.

Papildus METR, Anthropic sadarbojas arī ar SecureBio un Accenture citām novērotāju lomām, pakāpeniski palielinot pārredzamību un pārskatu apjomu. Uzņēmums uzsvēra, ka šie novērtējuma pasākumi ir brīvprātīgi un ka visi progresīvie MI uzņēmumi būtu jāievieš līdzīgas prakses, lai nodrošinātu drošību un atbildību nozares ietvaros.

Šis solis ir vērsts uz informācijas plaisas samazināšanu starp MI izstrādātājiem un ārējiem novērotājiem, galu galā palīdzot aizsargāt pret arvien jaudīgāku MI sistēmu radītajiem riskiem.