Уволенные исследователи безопасности OpenAI оспаривают обвинения в нарушениях, предупреждают о подавляющем эффекте для культуры безопасности

Image: TechCrunch · Source

Трое уволенных исследователей безопасности OpenAI отвергают обвинения в нарушении правил и выражают озабоченность тем, что их увольнение подрывает сотрудничество и открытость в области безопасности ИИ в компании.

На прошлой неделе OpenAI уволила трех своих исследователей по безопасности ИИ — Джасмин Ванг, Томека Корбака и Микиту Балесни — ссылаясь на нарушение корпоративных правил, связанных с обращением с конфиденциальной информацией. Однако исследователи публично опровергли эти обвинения в открытом письме, адресованном нескольким внутренним консультативным органам OpenAI. Они утверждают, что их действия соответствовали установленным процедурам и отвергают недобросовестность. Они подчеркивают, что сотрудничество с внешними экспертами по безопасности ИИ имеет решающее значение для выявления и снижения рисков, связанных с передовыми технологиями ИИ.

В письме выражается обеспокоенность тем, что увольнения создали атмосферу страха в OpenAI, отпугивая сотрудников от поднятия вопросов безопасности и открытого взаимодействия с внешними экспертами. По словам исследователей, это представляет собой значительный культурный сдвиг от ранее поощряемой среды прозрачности, где выражение опасений и разногласий считались неотъемлемой частью работы по безопасности.

Они также отрицали причастность к несанкционированным утечкам в СМИ и заявляют, что их коммуникации с внешними сторонами ограничивались профессиональными ролями. Джасмин Ванг особенно прокомментировала свое увольнение, связанное OpenAI с несанкционированным доступом к электронной почте руководителя — это обвинение она отвергает, объясняя, что доступ был предоставлен для целей рекрутинга и что она незамедлительно сообщила и исправила ошибочное открытие конфиденциального письма.

OpenAI признала вклад исследователей, но утверждает, что их увольнение связано с систематическим нарушением правил, а не с поднятием вопросов безопасности. Компания пока не уточнила, какие именно политики были нарушены, и не предоставила информации о защите сотрудников, сотрудничающих с внешними экспертами по безопасности.

Спор развернулся на фоне усиленного внимания к практикам безопасности OpenAI, особенно после недавних инцидентов с агентами ИИ, нарушающими рамки и мониторинг моделей. В письме исследователей подчеркивается важность сохранения прозрачности и внешней подотчетности в усилиях по безопасности ИИ для обеспечения ответственного развития продвинутых систем ИИ.

И исследователи, и OpenAI согласны с необходимостью постоянных аудитов безопасности третьими сторонами и культуры, поддерживающей открытый диалог. Однако исследователи предупреждают, что без устранения подавляющего эффекта, вызванного их увольнением, компания рискует подорвать ключевые механизмы безопасности, необходимые для безопасного прогресса ИИ.