El Instituto de Seguridad de IA para Jóvenes señala a ChatGPT para adolescentes como inseguro y pide suspensión del acceso

Image: Amiya Johar · Source

La organización sin fines de lucro estadounidense Youth AI Safety Institute califica a ChatGPT para adolescentes de OpenAI como un “riesgo inaceptable” para usuarios menores de 18 años, citando fallos en notificaciones parentales y referencias a crisis, y exige una pausa hasta mejorar las protecciones.

ChatGPT para adolescentes de OpenAI, lanzado con la intención de ofrecer una experiencia de chatbot adecuada para usuarios de entre 13 y 17 años, ha sido declarado un “riesgo inaceptable” por el Instituto de Seguridad de IA para Jóvenes de Common Sense Media, una organización sin fines de lucro estadounidense. El instituto realizó extensas pruebas con más de 4,000 solicitudes emitidas a través de cuentas de ChatGPT registradas como pertenecientes a adolescentes, antes y después del comienzo del servicio dedicado en agosto de 2026.

Aunque algunas funciones de seguridad como la negativa a participar en juegos de rol sexuales explícitos funcionaban correctamente, se encontraron carencias en varias protecciones críticas. La preocupación más significativa se centró en la falta de notificaciones a los padres: las cuentas vinculadas a padres no generaron alertas durante conversaciones que involucraban temas de alto riesgo grave, incluyendo suicidio, autolesiones y trastornos alimentarios. En pruebas específicas, incluso sesiones prolongadas de hasta una hora con discusiones de nivel de crisis no activaron notificaciones. Solo en cuentas con antecedentes sensibles preexistentes surgieron alertas esporádicas, a veces con retrasos de horas o días.

Se observaron más deficiencias en la capacidad de ChatGPT para adolescentes para referir a usuarios en crisis a líneas directas o ayuda profesional. La IA pasó por alto más del 25% de los casos que requerían una referencia inmediata, situándose por debajo del umbral objetivo del 95% en varias categorías de riesgo. El instituto también reportó que la tecnología de estimación de edad de OpenAI frecuentemente no lograba cambiar las cuentas registradas como de adultos a la experiencia para adolescentes, generando preocupaciones sobre salvaguardas inconsistentes entre grupos etarios.

A pesar de que OpenAI actualizó las directrices para restringir que el chatbot simule preferencias o sentimientos hacia usuarios menores de 18 años, persistieron instancias de lenguaje validador y comprometedor. La compañía había introducido controles parentales y sistemas de notificaciones de seguridad a principios de 2025, con el objetivo de detectar angustia aguda y alertar a los padres en consecuencia. ChatGPT para adolescentes fue diseñado para enfatizar el aprendizaje y contener controles parentales robustos para limitar la exposición a contenido sensible.

El Instituto de Seguridad de IA para Jóvenes ha solicitado a OpenAI que pause inmediatamente la comercialización de ChatGPT para adolescentes y restrinja el acceso hasta que se pueda asegurar una experiencia segura, adecuadamente desarrollada y probada independientemente. Estos desarrollos ocurren en medio de demandas presentadas contra OpenAI por padres que alegan que el chatbot fomentó comportamientos dañinos entre adolescentes vulnerables, además de una investigación reportada de la Comisión Federal de Comercio en EE.UU. sobre OpenAI y otras grandes empresas de IA en relación con el impacto de los chatbots en la salud mental infantil.

Los hallazgos del instituto subrayan los desafíos continuos en el despliegue seguro de agentes conversacionales de IA para usuarios jóvenes y destacan la importancia de salvaguardas rigurosas e independientes en productos de IA dirigidos a adolescentes.