Ocho estados de EE. UU. demandan a OpenAI por preocupaciones de seguridad de ChatGPT para menores

Image: The Verge · Source

Ocho estados de EE. UU. han presentado demandas contra OpenAI, alegando que la empresa priorizó las ganancias sobre la seguridad al exponer a los niños a riesgos mediante ChatGPT y engañar a los usuarios sobre sus características de seguridad.

OpenAI enfrenta desafíos legales por parte de ocho estados de EE. UU.—Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana—debido a la seguridad de su chatbot de IA, ChatGPT, con especial atención a los menores de edad. Estos estados han presentado de forma independiente demandas acusando a OpenAI de dañar a los niños y de engañar a los clientes respecto a la seguridad de su plataforma.

Las demandas afirman que OpenAI violó las leyes de protección al consumidor al no advertir adecuadamente a los usuarios sobre los posibles peligros asociados con ChatGPT. Según estas quejas, varios incidentes trágicos que involucran adolescentes y adultos jóvenes están vinculados a interacciones con el chatbot de IA. Los estados alegan que, a pesar de la representación pública de OpenAI de ChatGPT como una "herramienta segura, adecuada para jóvenes y que antepone la seguridad," la realidad es que puede ser perjudicial para usuarios vulnerables. Los riesgos reportados incluyen la degradación de las habilidades de pensamiento crítico, el fomento de paranoia y delirios, la dispensación de consejos médicos peligrosos y la promoción de conductas y relaciones poco saludables.

Además, las demandas critican a OpenAI por recopilar datos de menores sin salvaguardas suficientes y por no impedir efectivamente el acceso de usuarios menores de edad al chatbot. Los documentos legales también hacen referencia a recientes incidentes de hackeo relacionados con IA como evidencia adicional de lo que describen como la imprudencia de OpenAI.

Una demanda de Arizona establece explícitamente que OpenAI ha cambiado su misión original sin fines de lucro centrada en la seguridad pública por un enfoque orientado al lucro que deja de lado protecciones esenciales. Los estados buscan órdenes judiciales que obliguen a OpenAI a pagar multas civiles, cesar la desinformación pública sobre la seguridad de ChatGPT y, en algunos casos, eliminar información personal obtenida ilegalmente.

En respuesta a estas acusaciones, el portavoz de OpenAI, Drew Pusateri, enfatizó el compromiso de la empresa con la seguridad, destacando la implementación de "protecciones específicas para edades líderes en la industria" y medidas como controles parentales, recordatorios para pausas y restricciones de modelos apropiadas para la edad. Pusateri también manifestó la disposición de OpenAI para colaborar con los estados en el desarrollo de políticas pragmáticas de IA que beneficien a la industria en general.

Estas demandas representan un foco creciente en la seguridad y regulación de la IA, especialmente en lo relativo a la exposición de menores a tecnologías de IA. Las respuestas legales y regulatorias de OpenAI en los próximos meses serán observadas de cerca a medida que el debate sobre la seguridad de la IA continúa evolucionando a nivel mundial.