OpenAI upprätthåller avskedandet av tre AI-säkerhetsforskare efter policyöverträdelse

Bild: Illustrative image · Center for AI Safety · Public domain · Källa

OpenAI bekräftar att tre AI-säkerhetsforskare avskedats för brott mot policyer om känslig information och avvisar påståenden om att uppsägningarna var ett straff för att ha tagit upp säkerhetsfrågor.

OpenAI har bekräftat sitt beslut att avsluta anställningen för tre av sina AI-säkerhetsforskare — Jasmine Wang, Tomek Korbak och Mikita Balesni — efter resultat från en intern utredning som avslöjade ett "avsevärd förtroendebrott". Företaget uppgav på sitt officiella X-konto att forskarna avskedades för att ha brutit mot explicita policyer gällande hantering av känslig information.

Denna fasta hållning kommer som svar på forskarnas öppna brev och efterföljande inlägg på sociala medier, där de uttryckte sin övertygelse om att deras avskedande var ett straff för att ha framfört säkerhetsrelaterade bekymmer. De hävdade att deras agerande var i linje med OpenAIs uppdrag och överensstämde med existerande arbetsnormer.

OpenAI bemötte dessa påståenden genom att avslöja att deras interna utredning upptäckte överträdelser som gick längre än de som nämnts av forskarna, även om företaget avstod från att lämna specifika detaljer. Företaget betonade att uppsägningarna inte hade något att göra med individernas försök att ta upp säkerhetsfrågor.

Bakgrunden till denna situation är en ökad oro bland anställda inom AI-företag över utveckling och säkerhet för avancerade AI-system. Denna oro förvärrades efter uppmärksammade incidenter tidigare i år, inklusive OpenAIs egen säkerhetsläcka som involverade plattformen Hugging Face. Följaktligen finns det ett växande internt och branschomfattande tryck att införa starkare skyddsåtgärder och att agera försiktigt vid utrullning av självlärande AI-teknologier.

Eftersom AI-säkerhet fortsätter vara en kritisk och kontroversiell fråga internt och externt, belyser OpenAIs beslut den komplexa balansen mellan transparens, säkerhetspolicyer och intern dissens vid hantering av framstående AI-system. Den fulla omfattningen av den känsliga informationen som hanterades fel och den exakta naturen av överträdelserna förblir oklara, vilket gör att kontroversen pågår.