OpenAI confirma despido de tres investigadores de seguridad de IA por incumplimiento de políticas

Image: Illustrative image · Center for AI Safety · Public domain · Source

OpenAI confirmó el despido de tres investigadores de seguridad de IA por violar políticas sobre información sensible, rechazando que su despido estuviera relacionado con plantear preocupaciones de seguridad.

OpenAI ha reafirmado su decisión de terminar la relación laboral con tres de sus investigadores en seguridad de IA —Jasmine Wang, Tomek Korbak y Mikita Balesni— tras una investigación interna que reveló una "brecha significativa de confianza". La compañía indicó en su cuenta oficial de X que los investigadores fueron despedidos por infringir políticas explícitas sobre el manejo de información sensible.

Esta postura firme responde a la carta abierta y posteriores publicaciones en redes sociales de los investigadores, en las que expresaban su creencia de que el despido fue un castigo por plantear preocupaciones relacionadas con la seguridad. Argumentaron que sus acciones estaban alineadas con la misión de OpenAI y con las normas laborales vigentes.

OpenAI refutó estas afirmaciones señalando que su investigación interna descubrió incumplimientos que excedían los mencionados por los investigadores, aunque evitó revelar detalles específicos. La empresa enfatizó que el despido no estuvo relacionado con los intentos de los individuos por señalar problemas de seguridad.

El contexto de esta situación involucra preocupaciones crecientes entre empleados de empresas de IA sobre el desarrollo y la seguridad de sistemas avanzados de IA. Esta ansiedad se intensificó tras incidentes notables a comienzos de este año, incluyendo una brecha de seguridad en la plataforma Hugging Face vinculada a OpenAI. En consecuencia, existe una presión interna y en toda la industria para implementar salvaguardas más estrictas y proceder con cautela en el despliegue de tecnologías de IA que se mejoran a sí mismas.

Dado que la seguridad en IA sigue siendo un tema crítico y polémico tanto interna como externamente, la decisión de OpenAI destaca el delicado equilibrio entre transparencia, políticas de seguridad y disenso interno en la gestión de sistemas de IA de vanguardia. El alcance completo de la información sensible manejada indebidamente y la naturaleza precisa de las infracciones permanecen sin divulgar, manteniendo la controversia vigente.