Anthropic suteikia išoriniam AI priežiūros organui darbuotojo lygio prieigą siekiant pagerinti saugumo stebėseną

Vaizdas: Ars Technica · Šaltinis

Anthropic integravo išorinę priežiūros komandą savo biure, suteikdama jai plačią prieigą savarankiškai vertinti AI modelių rizikas, žengiant svarbų žingsnį AI saugumo skaidrumo ir atsakomybės srityje.

Anthropic, viena pirmaujančių dirbtinio intelekto kūrėjų, žengė svarbų žingsnį stiprindama saugumo priežiūrą, suteikdama išoriniam priežiūros organizacijai, kurią vadina „darbuotojo lygio prieiga“, galimybę naudotis savo vidinėmis sistemomis ir įranga. Ši iniciatyva siekia skaidriai įvertinti su jų AI modeliais, tarp jų ir Claude, susijusias rizikas, įtraukiant priežiūros komandą tiesiogiai į Anthropic biurus. Išoriniai vertintojai priklauso METR, ne pelno siekiančiai organizacijai, turinčiai patirties dirbant su gerai žinomais AI laboratorijomis, tokiomis kaip OpenAI, Google ir Meta. Turėdami pilną prieigą, prilygstančią Anthropic rizikos vertinimo komandoms, METR darbuotojai gali savarankiškai atlikti auditą, peržiūrėti ir analizuoti saugumo klausimus.

Šis žingsnis sekė plačias pramonės ir visuomenės nuogąstavimus dėl didėjančių galimų pavojų, kuriuos kelia vis galingesnės AI sistemos, įskaitant ekonominius sutrikimus, kibernetinius pavojus ir egzistencinius rizikos veiksnius. Anthropic generalinis direktorius Dario Amodei anksčiau ragino nepriklausomas vertinimo procedūras, sulaukdamas paramos iš įtakingų AI atstovų, tokių kaip OpenAI Sam Altman ir SpaceX Elon Musk, pabrėžiant retą sutarimą dėl nepriklausomos ir griežtos išorinės priežiūros svarbos.

Anthropic pabrėžė, kad siekia viešos atsakomybės už savo saugumo darbą, tačiau tiesioginis visos jautrios informacijos viešinimas galėtų atskleisti pažeidžiamumų piktavaliams ar konkurentams. Vietoj to, pasirinktas modelis, panašus į bankų priežiūrą, kai reguliuotojai siunčia tikrintojus į dideles bankų įstaigas vertinti rizikų tiesiogiai ir iš anksto. METR vertintojai turi teisę skelbti savo išvadas nepriklausomai nuo Anthropic patvirtinimo, nors bendrovė gali prašyti šalinti jautrius duomenis, tokius kaip klientų informacija, teisės komunikacija ar patentuoti modelių duomenys.

Norėdama sustiprinti šią priežiūrą, Anthropic aprūpino METR įmonės įranga, darbo vieta ir neribota prieiga, panašia į vidinių saugumo komandų. Anthropic darbuotojai skatinami bendradarbiauti su METR vertintojais kaip su kolegomis, aptariant rizikas, skatindami skaidrumą ir bendradarbiavimą. Šis susitarimas yra įgyvendinamas be finansinio atlygio METR organizacijai, kuri dirba vien iš labdaros ir valstybinių lėšų, taip išlaikydama nepriklausomumą.

Šis įvykis įvyko ruošiantis Anthropic aukšto profilio viešajam akcijų siūlymui, vertinamo daugiau nei 2 trln. JAV dolerių šiemet. Bendrovė siekia parodyti, kad dirbtinio intelekto sauga ir griežtas rizikos valdymas išlieka esminės vertybės, nepaisant komercinių spaudimų. Be METR, Anthropic bendradarbiauja ir su kitais saugumo partneriais, pavyzdžiui, Accenture, dalyvaujančiu plataus masto saugumo testavimuose, ir SecureBio, vertinančia cheminių ir biologinių grėsmių rizikas.

Anthropic ragina kitas pažangias AI įmones įdiegti panašias integruotas vertintojų programas, pabrėždamas savanoriško skaidrumo svarbą saugant visos pramonės saugumo standartus. METR išreiškė pasirengimą plėsti priežiūros veiklą visoje AI srityje, siekdama geresnės viešos įrodymų bazės ir užtikrinimo dėl dirbtinio intelekto saugumo.

Apibendrinant, Anthropic precedento neturintis sprendimas suteikti išoriniam priežiūros organui platų vidinį priėjimą žymi svarbų pažangą DI valdyme. Tai gali tapti modeliu integruoti nepriklausomus vertintojus į AI kompanijas, siekiant savalaikiai identifikuoti ir mažinti rizikas, atsižvelgiant į didėjančius raginimus stiprinti reguliavimą pažangioms DI technologijoms.