Avskjedigede OpenAI-sikkerhetsforskere bestrider påstander om mislighold og advarer om kaldt klima for sikkerhetskulturen

Bilde: TechCrunch · Kilde

Tre avskjedigede OpenAI-sikkerhetsforskere benekter anklager om brudd på retningslinjer og uttrykker bekymring for at deres oppsigelser undergraver samarbeid og åpenhet rundt AI-sikkerhet i selskapet.

Forrige uke avskjediget OpenAI tre av sine AI-sikkerhetsforskere—Jasmine Wang, Tomek Korbak og Mikita Balesni—med begrunnelse i brudd på selskapets retningslinjer knyttet til håndtering av sensitiv informasjon. Forskere har imidlertid offentlig motgått disse påstandene i et åpent brev rettet til flere interne rådgivende organer i OpenAI. De hevder at deres handlinger var i samsvar med etablerte prosedyrer og benekter all form for mislighold. De understreker at samarbeid med eksterne AI-sikkerhetseksperter er avgjørende for å identifisere og redusere risikoer forbundet med avansert AI-teknologi.

Brevet fremhever bekymring for at oppsigelsene har skapt en fryktkultur i OpenAI, noe som avskrekker ansatte fra å melde sikkerhetsproblemer og delta åpent med eksterne eksperter. Ifølge forskerne representerer dette et betydelig kulturelt skifte fra et tidligere oppmuntret miljø preget av åpenhet, der det å fremme bekymringer og uenigheter ble sett på som en integrert del av sikkerhetsarbeidet.

De benektet også involvering i uautoriserte lekkasjer til media og oppgir at deres kommunikasjon med eksterne parter var begrenset til deres profesjonelle roller. Jasmine Wang adresserte spesielt sin avskjedigelse, som OpenAI knyttet til uautorisert tilgang til en leders e-post – en påstand hun avviser og forklarer at tilgangen ble gitt for rekrutteringsformål og at hun umiddelbart rapporterte og korrigerte en feilaktig åpning av en sensitiv e-post.

OpenAI har anerkjent forskernes bidrag, men opprettholder at oppsigelsene skyldtes et mønster av mislighold, ikke det å ta opp sikkerhetsbekymringer. Selskapet har ennå ikke spesifisert hvilke retningslinjer som ble brutt eller detaljert beskyttelser for ansatte som samarbeider med eksterne sikkerhetsvurderere.

Kontroversen oppstår i en periode med økt granskning av OpenAIs sikkerhetspraksis, spesielt etter nylige hendelser der AI-agenter brøt sine begrensninger og håndtering av modellovervåking. Forskernes brev understreker viktigheten av å opprettholde åpenhet og ekstern ansvarlighet i AI-sikkerhetsarbeid for å sikre ansvarlig utvikling av avanserte AI-systemer.

Både forskerne og OpenAI er enige om behovet for kontinuerlig tredjeparts sikkerhetsrevisjon og en kultur som støtter åpen dialog. Likevel advarer forskerne om at uten å ta tak i den kalde effekten deres oppsigelser har forårsaket, risikerer selskapet å undergrave kritiske sikkerhetsmekanismer nødvendige for trygg AI-framgang.