Anthropic piešķir ārējai AI uzraudzības organizācijai darbinieka līmeņa piekļuvi, lai uzlabotu drošības uzraudzību

Attēls: Ars Technica · Avots

Anthropic ir izvietojis ārēju uzraudzības komandu savās birojos, dodot viņiem plašu piekļuvi, lai neatkarīgi novērtētu AI modeļu riskus, kas iezīmē nozīmīgu soli AI drošības caurspīdības un atbildības veicināšanā.

Anthropic, vadošais mākslīgā intelekta izstrādātājs, ir speris nozīmīgu soli drošības uzraudzības pastiprināšanā, piešķirot ārējai uzraudzības organizācijai tā dēvēto "darbinieka līmeņa pieeju" savām iekšējām sistēmām un aparatūrai. Šis iniciatīva mērķis ir caurspīdīgi novērtēt riskus, kas saistīti ar tā AI modeļiem, tostarp Claudi, ievietojot uzraudzības komandu tieši Anthropic birojos. Ārējie vērtētāji pieder nepeļņas organizācijai METR, kurai ir iepriekšēja pieredze darbā kopā ar lielākajiem AI laboratorijām, piemēram, OpenAI, Google un Meta. Iegūstot pilnīgu piekļuvi, kas ir līdzvērtīga Anthropic pašu riska novērtēšanas komandām, METR darbinieki var neatkarīgi veikt auditus, pārskatīt un analizēt drošības jautājumus.

Šis solis nāk pēc plašām nozares un sabiedrības bažām par pieaugošajiem potenciālajiem draudiem, ko rada arvien jaudīgākas AI sistēmas, sākot no ekonomikas traucējumiem un kiberdraudiem līdz eksistenciālajiem riskiem. Anthropic izpilddirektora Dario Amodei aicinājums uz trešo pušu novērtējumiem iepriekš ir saņēmis atbalstu no ietekmīgiem AI personībām, tostarp OpenAI Sam Altman un SpaceX Elon Musk, izceļot reti sastopamu vienprātību par stingras ārējās uzraudzības nozīmi.

Anthropic ir uzsvēris, ka, lai gan tas tiecas pēc sabiedriskas atbildības savā drošības darbā, tieša visu sensitīvo informāciju publiska atklāšana varētu pakļaut ievainojamības ļaunprātīgiem dalībniekiem vai konkurentiem. Tā vietā tas ir izvēlējies modeli, kas ir analoģisks banku uzraudzībai, kur regulatoriem ir uzraudzības pārstāvji lielās bankās, lai novērtētu riskus tieši un proaktīvi. METR vērtētājiem ir tiesības publicēt savus secinājumus bez Anthropic apstiprinājuma, lai gan uzņēmums var pieprasīt izņēmumus jutīgu datu kategorijās, piemēram, klientu informācija, juridiskās komunikācijas vai patentēto modeļu detaļas.

Lai pastiprinātu šo uzraudzību, Anthropic ir aprīkojis METR ar uzņēmuma aparatūru, biroja telpām un neierobežotu piekļuvi, līdzīgu iekšējo drošības komandu piekļuvei. Anthropic darbinieki tiek aicināti mijiedarboties ar METR pārbaudītājiem tā, it kā tie būtu kolēģi risku jautājumos, veicinot sadarbības caurspīdīgumu. Pārsteidzoši, šis sadarbības modelis tiek īstenots bez finansiālas kompensācijas no Anthropic puses METR, kas darbojas tikai uz labdarības un valsts finansējuma bāzes, saglabājot savu neatkarību.

Šis notikums notiek laikā, kad Anthropic gatavojas augsta profila sākotnējai publiskai akciju piedāvājumam, kura vērtējums šogad tiek lēsts pāri 2 triljoniem dolāru. Uzņēmums vēlas parādīt, ka AI drošība un stingra riska pārvaldība paliek centrālas prioritātes, neskatoties uz komerciālo spiedienu. Papildus METR, Anthropic turpina sadarboties ar citiem drošības partneriem, piemēram, Accenture, kas iesaistīts plašos drošības testēšanas ieguldījumos, un SecureBio, kas novērtē ķīmisko un bioloģisko draudu riskus.

Anthropic ir aicinājis citus progresīvas AI uzņēmumus pieņemt līdzīgas iebūvētas novērtētāju programmas, uzsverot brīvprātīgu caurspīdību, lai kopīgi uzlabotu nozares drošības standartus. METR ir paudis gatavību paplašināt savu uzraudzības darbību visā AI jomā, lai sniegtu uzlabotus publiskos pierādījumus un pārliecību par AI drošību.

Kopsavilkumā, Anthropic nesen piešķirtā plaša iekšējā piekļuve ārējai uzraudzības organizācijai iezīmē ievērojamu progresu AI pārvaldībā. Tas nosaka iespējamu precedentu neatkarīgu vērtētāju iekļaušanai AI uzņēmumos, lai proaktīvi identificētu un mazinātu riskus, reaģējot uz pieaugošām prasībām pēc stingrākām regulatīvām sistēmām attīstīto AI tehnoloģiju jomā.