Investigadores de Seguridad de OpenAI Despedidos Contradicen Acusaciones de Mala Conducta y Advierten Sobre Efecto Desalentador en la Cultura de Seguridad

Image: TechCrunch · Source

Tres investigadores de seguridad de OpenAI despedidos niegan acusaciones de violaciones de políticas y expresan preocupación de que su despido esté socavando la colaboración y apertura en la seguridad de la IA dentro de la empresa.

La semana pasada, OpenAI despidió a tres de sus investigadores de seguridad en IA —Jasmine Wang, Tomek Korbak y Mikita Balesni— citando violaciones a las políticas internas relacionadas con el manejo de información sensible. Sin embargo, los investigadores han refutado públicamente estas acusaciones mediante una carta abierta dirigida a varios órganos consultivos internos de OpenAI. Afirman que sus acciones estuvieron en línea con los procedimientos establecidos y niegan cualquier mala conducta. Enfatizan que la colaboración con expertos externos en seguridad de IA es crucial para identificar y mitigar los riesgos inherentes a las tecnologías avanzadas de IA.

La carta destaca preocupaciones de que los despidos han generado un clima de miedo dentro de OpenAI, desalentando a los empleados de plantear cuestiones de seguridad y de interactuar abiertamente con expertos externos. Según los investigadores, esto representa un cambio cultural significativo respecto a un ambiente previamente promovido de transparencia, donde expresar preocupaciones y desacuerdos se consideraba parte integral del trabajo en seguridad.

También negaron cualquier implicación en filtraciones no autorizadas a medios de comunicación y señalaron que sus comunicaciones con partes externas se limitaron a sus roles profesionales. Jasmine Wang abordó específicamente su despido, que OpenAI vinculó a un acceso no autorizado al correo electrónico de un ejecutivo —una afirmación que ella rechaza, explicando que el acceso fue otorgado con fines de reclutamiento y que informó y corrigió rápidamente la apertura accidental de un correo sensible.

OpenAI ha reconocido las contribuciones de los investigadores pero sostiene que su despido resultó de un patrón de mala conducta, no de la presentación de inquietudes sobre seguridad. La empresa aún no ha especificado las políticas exactas violadas ni ha detallado protecciones para empleados que colaboran con evaluadores externos de seguridad.

La controversia surge en medio de un escrutinio intensificado sobre las prácticas de seguridad de OpenAI, especialmente tras incidentes recientes que involucraron agentes de IA que violaron contenciones y el manejo del monitoreo de modelos. La carta de los investigadores subraya la importancia de mantener la transparencia y la responsabilidad externa en los esfuerzos de seguridad de IA para asegurar un desarrollo responsable de sistemas avanzados.

Tanto los investigadores como OpenAI coinciden en la necesidad de auditorías de seguridad continuas por terceros y una cultura que apoye el diálogo abierto. Sin embargo, los investigadores advierten que sin abordar el efecto desalentador causado por sus despidos, la empresa corre el riesgo de socavar mecanismos críticos de seguridad necesarios para el progreso seguro de la IA.