Anthropic annab välisele tehisintellekti jälgijale töötajatasemel juurdepääsu ohutuse järelevalve tugevdamiseks

Pilt: Ars Technica · Allikas

Anthropic on oma kontoritesse varem sõltumatu järelevalvemeeskonna paigutanud, andes neile ulatusliku võimaluse iseseisvalt hinnata tehisintellekti mudelitega seotud riske. See tähistab suurt sammu AI ohutuse läbipaistvuse ja vastutuse suurendamisel.

Anthropic, juhtiv tehisintellekti arendaja, on teinud olulise sammu ohutuse järelevalve tugevdamiseks, andes välisele järelevalveorganisatsioonile, mida nimetatakse "töötajasarnaseks juurdepääsuks", ligipääsu oma sisemistele süsteemidele ja riistvarale. Selle algatuse eesmärk on läbipaistvalt hinnata AI mudelitega, sealhulgas Claude’iga seotud riske, paigutades järelevalvemeeskonna otse Anthropicu kontoritesse. Välised hindajad kuuluvad METR-i, mittetulundusühingu, kellel on varasem kogemus suurte AI laboritega nagu OpenAI, Google ja Meta. Saades täieliku juurdepääsu, mis on võrreldav Anthropicu enda riskihindamise meeskondade omaga, saavad METR-i töötajad sõltumatult auditeerida, läbi vaadata ja analüüsida ohutusküsimusi.

See samm järgneb laiale tööstuse ja avalikule murele AI süsteemide järjest suurenevate potentsiaalsete ohtude pärast, mis ulatuvad majanduslikust häirimisest ja küberohtudest kuni eksistentsiaalsete riskideni. Anthropicu tegevjuht Dario Amodei üleskutse kolmandate osapoolte hindamiste jaoks on varem pälvinud toetust mõjukaid AI isikutelt, sealhulgas OpenAI Sam Altmanilt ja SpaceX Elon Muskilt, rõhutades haruldast üksmeelt tugeva välise järelevalve olulisuse osas.

Anthropic on rõhutanud, et kuigi ta soovib oma ohutustöö avalikku vastutust, könnte kõigi tundlike andmete otsene avalikustamine paljastada haavatavusi pahatahtlikele isikutele või konkurentidele. Selle asemel on valitud mudel, mis on analoogne pangajärelevalvega, kus regulaatorid paigutavad hindajad suurtesse pankadesse riskide esmaseks hindamiseks ja ennetavaks tegevuseks. METR-i hindajatel on õigus oma järeldusi avaldada ilma Anthropicu heakskiiduta, kuigi ettevõttel on õigus taotleda tundlike andmete, nagu kliendiandmed, juriidilised suhtlused või omandiõigustega mudeli detailide, välja jättumist.

Selle järelevalve tugevdamiseks on Anthropic varustanud METR-i ettevõtte riistvara, kontoriruumi ja piiranguteta juurdepääsuga, mis on sarnane sisemiste ohutustiimide omale. Anthropicu töötajaid julgustatakse suhtlema METR-i hindajatega nagu kolleegidega riskiküsimustes, edendades koostööl põhinevat läbipaistvust. Märkimisväärselt toimub see kokkulepe ilma finantsilise kompensatsioonita Anthropicu poolt METR-ile, kes tegutseb ainult filantroopsest ja valitsuse rahastusest, säilitades oma sõltumatuse.

See areng toimub samal ajal, kui Anthropic valmistub kõrgprofiilseks esmasseks avalikuks pakkumiseks, mis hindamise järgi võiks ulatuda sel aastal üle 2 triljoni dollarini. Ettevõte soovib näidata, et AI ohutus ja range riskijuhtimine on jätkuvalt keskne prioriteet vaatamata kaubanduslikele survele. Lisaks METR-ile jätkab Anthropic koostööd teiste ohutupartneritega nagu Accenture, kes on seotud ulatuslike ohutustestimise investeeringutega, ja SecureBio, mis hindab keemiliste ja bioloogiliste ohtudega seotud riske.

Anthropic on kutsunud teisi tipptasemel AI ettevõtteid üles vastu võtma sarnaseid sisseehitatud hindamisprogramme, rõhutades vabatahtlikku läbipaistvust kogu tööstuse ohutusstandardite ühiseks tõstmises. METR on väljendanud valmisolekut laiendada oma järelevalvetegevust kogu AI maastikul, et pakkuda paremaid avalikke tõendeid ja kindlustunnet AI ohutuse osas.

Kokkuvõttes tähistab Anthropicu enneolematult ulatusliku sisemise juurdepääsu andmine välisele järelevalvejale märkimisväärset edusammu AI-valitsemises. See seab potentsiaalse precedendi sõltumatute hindajate paigutamiseks AI ettevõtetesse riskide ennetavaks tuvastamiseks ja leevendamiseks kasvava nõudluse taustal tugevama regulatiivse raamistikku järele arenenud AI tehnoloogiate jaoks.