Zwolnieni badacze OpenAI ds. bezpieczeństwa kwestionują zarzuty o niewłaściwe postępowanie, ostrzegają przed negatywnym wpływem na kulturę bezpieczeństwa

Image: TechCrunch · Source

Trzej zwolnieni badacze ds. bezpieczeństwa w OpenAI odrzucają zarzuty naruszenia polityk i wyrażają obawy, że ich zwolnienie osłabia współpracę oraz otwartość w zakresie bezpieczeństwa AI w firmie.

W zeszłym tygodniu OpenAI zwolniło trzech swoich badaczy ds. bezpieczeństwa AI — Jasmine Wang, Tomka Korbaka i Mikitę Balesniego — powołując się na naruszenia polityk firmy dotyczących obsługi informacji poufnych. Jednak badacze publicznie zakwestionowali te zarzuty w otwartym liście skierowanym do kilku wewnętrznych ciał doradczych OpenAI. Twierdzą, że ich działania były zgodne z ustalonymi procedurami i zaprzeczają jakimkolwiek niewłaściwym zachowaniom. Podkreślają, że współpraca z zewnętrznymi ekspertami ds. bezpieczeństwa AI jest kluczowa dla identyfikacji i ograniczania ryzyk związanych z zaawansowanymi technologiami AI.

List zwraca uwagę na obawy, że zwolnienia wywołały atmosferę strachu w OpenAI, zniechęcając pracowników do zgłaszania problemów bezpieczeństwa i otwartej współpracy z ekspertami zewnętrznymi. Według badaczy stanowi to istotną zmianę kulturową w stosunku do wcześniej promowanego środowiska przejrzystości, gdzie zgłaszanie obaw i niezgodności było uważane za integralną część pracy nad bezpieczeństwem.

Badacze również zaprzeczyli zaangażowaniu w nieautoryzowane przecieki do mediów i poinformowali, że ich komunikacja z podmiotami zewnętrznymi ograniczała się do ról zawodowych. Jasmine Wang odniosła się szczególnie do swojego zwolnienia, które OpenAI powiązało z nieautoryzowanym dostępem do e-maila jednego z kierowników — zarzut ten odrzuca, wyjaśniając, że dostęp został udzielony w celach rekrutacyjnych i że niezwłocznie zgłosiła i skorygowała przypadkowe otwarcie wrażliwej wiadomości.

OpenAI uznało wkład badaczy, ale podtrzymuje, że ich zwolnienie wynikało z wzoru niewłaściwego postępowania, a nie z sygnalizowania kwestii bezpieczeństwa. Firma nie podała jeszcze dokładnie, które polityki zostały naruszone, ani jakie są zabezpieczenia dla pracowników współpracujących z zewnętrznymi oceniającymi bezpieczeństwo.

Kontrowersja pojawiła się w kontekście rosnącej kontroli nad praktykami bezpieczeństwa OpenAI, zwłaszcza po niedawnych incydentach z udziałem agentów AI łamiących ograniczenia oraz zarządzania monitorowaniem modeli. List badaczy podkreśla znaczenie utrzymania przejrzystości i odpowiedzialności zewnętrznej w wysiłkach bezpieczeństwa AI, aby zapewnić odpowiedzialny rozwój zaawansowanych systemów AI.

Zarówno badacze, jak i OpenAI zgadzają się co do potrzeby dalszych audytów bezpieczeństwa realizowanych przez strony trzecie oraz kultury sprzyjającej otwartemu dialogowi. Jednak badacze ostrzegają, że bez zajęcia się „efektem mrożącym” spowodowanym ich zwolnieniami, firma ryzykuje podważenie kluczowych mechanizmów bezpieczeństwa niezbędnych dla bezpiecznego rozwoju AI.