OpenAI подтверждает увольнение трёх исследователей безопасности ИИ за нарушение политики

Image: Illustrative image · Center for AI Safety · Public domain · Source

OpenAI подтвердила увольнение трёх исследователей безопасности ИИ за нарушение политики по обращению с конфиденциальной информацией, отвергнув утверждения, что их увольнение связано с высказыванием обеспокоенности по вопросам безопасности.

OpenAI вновь подтвердила своё решение уволить трёх своих исследователей по безопасности ИИ — Жасмин Ванг, Томека Корбака и Микиту Балесни — после внутреннего расследования, выявившего «значительное нарушение доверия». Компания заявила в официальном аккаунте в X, что исследователи были уволены за нарушение чётких правил, касающихся обращения с конфиденциальной информацией.

Жёсткая позиция компании последовала в ответ на открытое письмо исследователей и последующие публикации в социальных сетях, где они выразили убеждённость, что увольнение является наказанием за выражение опасений по вопросам безопасности. Они утверждали, что их действия соответствовали миссии OpenAI и существующим нормам на рабочем месте.

OpenAI опровергла эти заявления, раскрыв, что внутреннее расследование выявило нарушения, выходящие за рамки указанных исследователями, однако конкретные детали не раскрыты. Компания подчеркнула, что увольнение не связано с попытками поднять вопросы безопасности.

Данная ситуация происходит на фоне возросших опасений сотрудников в компаниях ИИ относительно разработки и безопасности продвинутых систем искусственного интеллекта. Тревога усилилась после заметных инцидентов в этом году, включая собственный инцидент с безопасностью OpenAI, связанный с платформой Hugging Face. В результате растёт внутреннее и отраслевое давление на усиление мер защиты и осторожный подход к внедрению самоусовершенствующихся технологий ИИ.

Поскольку безопасность ИИ остаётся важной и спорной темой как внутри компании, так и вне её, решение OpenAI подчёркивает сложный баланс между прозрачностью, политикой безопасности и внутренним несогласием в управлении передовыми системами ИИ. Полный объём неправомерного обращения с конфиденциальной информацией и точный характер нарушений остаются нераскрытыми, что поддерживает продолжающийся характер спора.