Anthropic annab METRi teadlastele töötajatasemel ligipääsu sõltumatuks tehisintellekti ohutuse hindamiseks

Pilt: TechCrunch · Allikas

Anthropic on andnud kuuele METRi uurijale töötajasarnase ligipääsu oma sisemistele süsteemidele, võimaldades sõltumatut hindamist oma tehisintellekti ohutustavade ja riskide osas ning lubades avaldada erapooletuid aruandeid ilma vetooõiguseta.

Anthropic, juhtiv tipptasemel tehisintellekti mudelite arendaja, teatas tähtsast sammust läbipaistvuse ja ohutusarvestuse suurendamiseks, andes mittetulundusühingu METR uurijatele töötajatasemel ligipääsu oma sisemistele tööriistadele ja teabele. See kokkulepe võimaldab METRi kuuel tiimiliikmel iseseisvalt hinnata Anthropicu tehisintellekti mudeleid, riskijuhtimist ja ohutusprotseduure ning avaldada oma järeldused ilma, et Anthropic suudaks avaldamist takistada.

See algatus reageerib kasvavatele muredele seoses tehisintellekti agentide ettearvamatute käitumistega, kus alates 2026. aasta augusti lõpust on teatatud mitmetest juhtumitest, mis on tõstatanud nõudmised erapooletute väliste läbivaatuste järele. Anthropic kujutas koostööd üles pankade reguleerijate mudelil, kus residentuurkontrollijad paigutatakse suurde pankadesse, omades laialdasi ligipääse, mis on võrreldavad Anthropicu enda riskihindamise meeskondadega.

METRi uurijad saavad Anthropicu poolt väljastatud sülearvutid, kontoriruumi ning ligipääsu peaaegu kogu sisemisele andmestikule, mis on seotud joondamise ja ohutusriskidega. Anthropicu töötajaid julgustatakse jagama teavet METRiga nagu sisejuhtidega. Piirangud kehtivad kitsalt määratletud tundlikele andmetele, sealhulgas kliendiinfole, advokaadi ja kliendi vahelisele konfidentsiaalsusele ning mudelite detailsele arhitektuurile.

Anthropic loobub vetooõigusest METRi avalduste üle, kuigi võib taotleda piiratud andmekategooriate puhul redaktsioonide tegemist. METR omab õigust avalikult kommentaarida kõiki redaktsioonide otsuseid.

See koostöö kujutab endast Anthropicu arendatava kolmetasemelise hindajate süsteemi kõrgeimat taset. Madalamad tasandid, nagu bioturbe mittetulundusühing SecureBio, saavad piiratud ligipääsu ja vajavad Anthropicu heakskiitu oma läbivaatuste avaldamiseks.

Anthropicu tegevjuht Dario Amodei on varem toetanud sõltumatute hindajate paigutamist tehisintellektilaboritesse, et leevendada AI arengu kiiret tempot, mis on kooskõlas OpenAI, Google’i, Meta, Nvidia ja teiste pühendumustega Valge Maja kokkuleppes sõltumatute AI hindamise osas.

Lisaks METRile teeb Anthropic koostööd SecureBio ja Accenture’iga muude hindajate rollide täitmiseks, järk-järgult suurendades läbipaistvust ja ülevaatuste ulatust. Ettevõte rõhutas, et need hindamisalased lähenemised on vabatahtlikud ning kõik tipptasemel AI ettevõtted peaksid rakendama sarnaseid tavasid ohutuse ja vastutuse tagamiseks tööstuses.

See samm eesmärgib vähendada info lõhe AI arendajate ja välistingimustes hindajate vahel, aidates lõpuks kaitsta üha võimsamate AI süsteemide poolt tekitatavate riskide eest.