Avskedade OpenAI-forskare inom säkerhet bestrider anklagelser om felaktigheter och varnar för avkylande effekt på säkerhetskulturen

Bild: TechCrunch · Källa

Tre avskedade OpenAI-forskare inom säkerhet förnekar anklagelser om policybrott och uttrycker oro för att deras avskedande undergräver samarbete och öppenhet kring AI-säkerhet inom företaget.

Förra veckan avskedade OpenAI tre av sina forskare inom AI-säkerhet—Jasmine Wang, Tomek Korbak och Mikita Balesni—med hänvisning till brott mot företagets policyer rörande hantering av känslig information. Forskarna har dock offentligt motsatt sig dessa anklagelser i ett öppet brev som riktats till flera interna rådgivande organ inom OpenAI. De hävdar att deras handlingar var i enlighet med etablerade rutiner och förnekar all form av felaktigt beteende. De betonar att samarbete med externa experter på AI-säkerhet är avgörande för att identifiera och mildra risker som är förknippade med avancerad AI-teknik.

Brevet lyfter fram oro för att avskedandena har skapat en rädsla inom OpenAI, vilket avskräcker anställda från att ta upp säkerhetsfrågor och delta öppet med externa experter. Enligt forskarna innebär detta en betydande kulturell förändring från en tidigare uppmuntrad miljö präglad av transparens, där att framföra bekymmer och oenigheter ansågs vara en integrerad del av säkerhetsarbetet.

De förnekade också inblandning i obehöriga läckor till media och uppger att deras kommunikation med externa parter enbart begränsades till deras professionella roller. Jasmine Wang tog särskilt upp sin avskedning, som OpenAI kopplat till obehörig åtkomst till en chefs e-post - en påstående hon avvisar och förklarar att åtkomsten beviljades i rekryteringssyfte och att hon omedelbart rapporterade och rättade till en av misstag öppnad känslig e-post.

OpenAI har erkänt forskarnas insatser men hävdar att deras uppsägning berodde på ett mönster av felaktigt beteende, inte på att de framfört säkerhetsbekymmer. Företaget har ännu inte specificerat exakt vilka policyer som brutits eller klargjort vilka skydd som ges till anställda som samarbetar med externa säkerhetsgranskare.

Kontroversen uppstår i en tid av ökad granskning av OpenAIs säkerhetspraxis, särskilt efter nyliga incidenter där AI-agenter brutit mot begränsningar och hantering av övervakning av modeller. Forskarna understryker i brevet vikten av att upprätthålla transparens och extern ansvarsskyldighet i arbetet med AI-säkerhet för att säkerställa ett ansvarsfullt utvecklande av avancerade AI-system.

Både forskarna och OpenAI är överens om behovet av löpande säkerhetsgranskningar från tredje part och en kultur som främjar öppen dialog. Ändå varnar forskarna för att om inte den avkylande effekt deras avskedanden orsakat åtgärdas, riskerar företaget att undergräva viktiga säkerhetsmekanismer som är nödvändiga för säker AI-utveckling.