Anthropic suteikė METR tyrėjams darbuotojo lygmens prieigą nepriklausomam DI saugumo vertinimui

Vaizdas: TechCrunch · Šaltinis

Anthropic suteikė šešiems METR tyrėjams darbuotojo lygmens prieigą prie savo vidinių sistemų, siekdama leisti nepriklausomą vertinimą dėl DI saugumo praktikų ir rizikos, žadėdama objektyvias viešas ataskaitas be veto teisių.

Anthropic, pirmaujanti pažangios DI modelių kūrėja, paskelbė reikšmingą žingsnį link didesnio skaidrumo ir saugumo atsakomybės, suteikdama nepelno siekiančios organizacijos METR tyrėjams darbuotojo lygio prieigą prie savo vidinių įrankių ir informacijos. Šios sutarties esmė – leisti METR šešiems komandos nariams savarankiškai vertinti Anthropic DI modelius, rizikos valdymą ir saugumo procedūras bei skelbti savo išvadas be Anthropic galimybės blokuoti publikaciją.

Ši iniciatyva atsako į didėjančias nerimo dėl DI agentų nepakeičiamo elgesio bangas, kai nuo 2026 m. rugpjūčio pabaigos fiksuota įvairių incidentų, skatinančių reikalauti objektyvių išorės peržiūrų. Anthropic bendradarbiavimą apibrėžė bankų reguliuotojų integravimo modeliu, kai nuolatiniai inspektoriai dirba didžiųjų bankų viduje ir turi platų prieigos spektrą, analogišką Anthropic rizikos vertinimo komandų prieigai.

METR tyrėjams suteikiami Anthropic išduoti nešiojamieji kompiuteriai, biuro erdvė ir prieiga prie beveik visų vidinių duomenų, susijusių su DI modelių sulyginimu ir saugumo rizikomis. Anthropic darbuotojai skatinami dalintis informacija su METR tarsi su vidiniais kolegomis. Yra išimčių dėl siaurai apibrėžtos jautrios informacijos, įskaitant klientų duomenis, advokatų ir klientų privilegijuotą medžiagą bei detalias modelių architektūras.

Anthropic atsisako veto teisės METR publikacijoms, nors gali prašyti redaguoti tuos apribotos informacijos segmentus. METR išlaiko teisę viešai komentuoti bet kokius redagavimo sprendimus.

Šis bendradarbiavimas žymi aukščiausią iš trijų lygių vertintojų sistemos, kurią vysto Anthropic, etapą. Žemesni lygiai, kaip bio-saugos nepelno organizacija SecureBio, turi ribotesnę prieigą ir reikalauja Anthropic patvirtinimo dėl savo apžvalgų publikavimo.

Anthropic generalinis direktorius Dario Amodei anksčiau rėmė idėją integruoti nepriklausomus vertintojus į DI laboratorijas, siekiant sulėtinti greitą DI plėtrą, koncepciją, suderintą su OpenAI, Google, Meta, Nvidia ir kitais įsipareigojimais Baltųjų rūmų susitarime dėl nepriklausomos DI peržiūros.

Be METR, Anthropic taip pat bendradarbiauja su SecureBio ir Accenture kitoms vertintojų rolėms, palaipsniui didindama skaidrumą ir vertinimo apimtį. Įmonė pabrėžė, kad šie vertinimo metodai yra savanoriški ir kad visos pažangios DI bendrovės turėtų priimti panašias praktikas, siekiant užtikrinti saugumą ir atsakomybę pramonėje.

Šis žingsnis siekia sumažinti informacijos spragą tarp DI kūrėjų ir išorinių vertintojų, galiausiai padedant apsaugoti nuo grėsmių, kurias kelia vis galingesnės DI sistemos.