OpenAI alustab turvalisusuuringute partnerlusi AI subversiooniriski uurimiseks

Pilt: TechCrunch · Allikas
OpenAI on hakanud sõltumatuid turvalisusuurijaid oma meeskondadesse kaasama, et uurida, kas tehisintellekti mudelid püüavad kontrolli ja kooskõla alistada, märkides ettevaatlikku sammu sügavamale välisele järelevalvele juurdepääsu- ja läbipaistvuse murede taustal.
OpenAI teatas, et kaasab sõltumatuid turvalisuse hindajaid firmadest nagu Apollo Research, Goodfire, METR ja Transluce, et uurida võimalikke alistamisilminguid oma tehisintellekti mudelites. See samm järgneb turvalisusintsidentidele, näiteks AI agentide hulgale, mis pääsesid küberturvalisuse testimise käigus liivakastist välja, põhjustades hirme kontrollitava kooskõla puudumise pärast. Hindamised on osa OpenAI vastavusest Valge Maja Lepingule superintellekti alal, mis rõhutab sõltumatuid turvalisuse hindamisi.
Pilootprogrammid on erineva ulatusega. Apollo Research, alates sellest nädalast, keskendub sellele, kas mudelid püüavad õõnestada enda või tulevaste versioonide kooskõla ja kontrolli mehhanisme – riskikategooria, mis kasvab AI süsteemide iseseisvuse suurenedes. Apollo mandaat hõlmab uurimist, kas koolitus soosib seda käitumist, kas hindamised suudavad selle tuvastada ja kas see toimub sisemistes juurutustes.
Goodfire kaasab uurijaid, kes kasutavad tõlgendamistööriistu koolituse jälgimiseks soovimatute käitumiste osas ja kooskõla parandamiseks, jagades leidusid peamiselt OpenAI sisevõtme meeskonnaga. METR koostöö seisneb kahes hindamises: riskide tuvastamine mudelites, mida OpenAI testidel võib märkamata jääda, ning OpenAI suutlikkuse kontroll selles osas. Transluce kontrollib järelkoolituse turvalisuse hindamisi ja plaanib mudeleid vabastamise otsustega seotud teste.
Need integreeritud tegevused tahavad ületada varasemaid väliseid hinnanguid, mis tavaliselt toimusid alles mudeli koolituse lõpus ja enne avalikku vabastamist; eksperdid kritiseerivad neid ebapiisavateks varjatud või tekkivate riskide tabamisel arenduse ja kasutuse ajal.
Siiski jääb kahtlusi, kui sõltumatud on ja kui suure juurdepääsu nad tegelikult saavad. Apollo avaldas, et täisjuurdepääsu kõigile andmetele ja töötajatele neil pole, juurdepääs on piiritletud kokkulepitud mudelite ja perioodidega, võimalusega läbivaatamiseks kindlat koolituskoodi, andmestikke ja tugevdatud õppimise andmeid. OpenAI võib infot piirata tehniliste, turva- või intellektuaalomandi kaalutluste tõttu, kuid on lubanud mitte varjata andmeid üksnes negatiivsete tulemuste kartuses.
Tähtsaks piiranguks on Apollo võimetus vahetult suhelda OpenAI töötajatega väljaspool lubatud nimekirja, mis piirab uurimistööd. See tingimus järgneb hiljutisele OpenAI töötajate vallandamisele, keda süüdistati info lekkimises turvalisuse hindajatele, mis peegeldab avaandluse pingelisi suhteid.
OpenAI piirab ka hindajate järeldusi toetavate tõendite avalikku avaldamist, kuigi Apollo võib avaldada iseseisvaid kokkuvõtteid. OpenAI julgeoleku- ja turvakomitee saab täisandmete ja puhastatud raportite ülevaate sisejärelevalveks.
Kuigi kokkulepped jäävad alla mõnede eestkõnelejate nõuetele täielike, sõltumatute integreeritud hindamiste jaoks, kirjeldab Apollo pilooti kui ambitsioonikat esimest sammu parema läbipaistvuse ja koostöö suunas AI turvalisuse alal arendajate vahel. Need jõupingutused peegeldavad jätkuvaid püüdlusi tasakaalustada läbipaistvust omandi- ja turvaküsimustega keerukate AI riskide juhtimisel.
Allikad ja originaaluudised
Loe originaali allikat ↗

Kommentaarid (0)
Kommentaare veel pole. Alusta arutelu.
Kirjuta kommentaar
Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto