Atleisti OpenAI saugumo tyrėjai priešinasi kaltinimams dėl elgesio pažeidimų, įspėja apie atšaldymo efektą saugumo kultūrai

Vaizdas: TechCrunch · Šaltinis

Trys atleisti OpenAI saugumo tyrėjai neigia įtarimus dėl politikos pažeidimų ir išreiškia susirūpinimą, kad jų atleidimas silpnina dirbtinio intelekto saugumo bendradarbiavimą ir atvirumą įmonėje.

Praėjusią savaitę OpenAI atleido tris savo DI saugumo tyrėjus – Jasmine Wang, Tomek Korbak ir Mikita Balesni – remdamasi įmonės politikos pažeidimais, susijusiais su jautrios informacijos tvarkymu. Tačiau tyrėjai viešai neigia šiuos kaltinimus atvirame laiške, adresuotame kelioms vidinėms OpenAI patariamosioms institucijoms. Jie teigia, kad jų veiksmai atitiko nustatytas procedūras ir nebuvo jokio netinkamo elgesio. Jie pabrėžia, kad bendradarbiavimas su išoriniais DI saugumo ekspertais yra būtinas, siekiant identifikuoti ir mažinti pažangių DI technologijų keliamas rizikas.

Laiške išreiškiama susirūpinimas, kad atleidimai sukūrė baimės atmosferą OpenAI viduje, atgrasydami darbuotojus kelti saugumo klausimus ir atvirai bendrauti su išoriniais ekspertais. Pasak tyrėjų, tai žymi reikšmingą kultūrinę permainą, nes anksčiau skatinta skaidrumo aplinka, kurioje rūpestis ir nesutarimai buvo laikomi saugumo darbų dalimi.

Taip pat jie paneigia bet kokį neteisėtą nutekinimą žiniasklaidai ir teigia, kad jų komunikacija su išorinėmis šalimis buvo ribota ir susijusi tik su profesinėmis pareigomis. Jasmine Wang konkrečiai atsikerta į savo atleidimą, kurį OpenAI sieja su neautorizuotu prieigos prie vadovo elektroninio pašto atveju – ji tai neigia, paaiškindama, kad prieiga buvo suteikta dėl atrankos tikslais ir kad ji laiku pranešė ir ištaisė netyčinį jautrios žinutės atidarymą.

OpenAI pripažįsta tyrėjų indėlį, bet tvirtina, kad jų atleidimas buvo dėl netinkamo elgesio modelio, o ne dėl saugumo rūpesčių kėlimo. Įmonė dar neatskleidė konkrečių pažeistų politikų ar detalių apie apsaugos priemones darbuotojams, bendradarbiaujantiems su išoriniais saugumo vertintojais.

Ši polemika kyla stiprėjant dėmesiui OpenAI saugumo praktikoms, ypač po neseniai įvykusių incidentų, susijusių su DI agentų pabėgimu ir modelių stebėjimo valdymu. Tyrėjų laiškas pabrėžia skaidrumo ir išorinės atsakomybės svarbą DI saugume, siekiant atsakingai vystyti pažangias DI sistemas.

Tiek tyrėjai, tiek OpenAI sutaria dėl būtinybės tęsti trečiųjų šalių saugumo auditą ir palaikyti atviro dialogo kultūrą. Vis dėlto tyrėjai įspėja, kad jei nebus sprendžiamas atleidimų sukeltas atšaldymo efektas, įmonė rizikuoja pakenkti svarbiems saugumo mechanizmams, reikalingiems saugiam DI pažangai.