OpenAI habilitará de forma predeterminada el marcado automático de salidas de ChatGPT en la UE

Image: Ars Technica · Source

OpenAI comenzará a marcar automáticamente con una marca de agua los textos generados por ChatGPT en la Unión Europea para cumplir con el Acta de IA de la UE, utilizando un método propietario llamado textGrain. La función será opcional en otras regiones.

OpenAI anunció planes para marcar automáticamente con una marca de agua los textos generados por ChatGPT dentro de la Unión Europea (UE), una medida diseñada para cumplir con la recientemente promulgada Ley de IA de la UE que exige la identificación de contenidos producidos por IA para su detección mediante herramientas especializadas. Este sistema de marcado, denominado textGrain, modifica sutilmente la selección de palabras en los contenidos generados para incorporar patrones identificables — imperceptibles para lectores humanos pero detectables por herramientas que posean una clave específica.

El enfoque de la compañía está alineado con los esfuerzos en curso en la industria de IA para proporcionar trazabilidad del texto generado por máquinas. Sin embargo, OpenAI reconoce las limitaciones de textGrain, señalando una tasa de detección máxima aproximada del 92 % en pruebas controladas. La fiabilidad de la detección disminuye notablemente con ligeras modificaciones del texto; cambiar solo el 10 % del texto reduce la detección exitosa en casi un 30 %, mientras que una alteración del 20 % disminuye la precisión hasta en un 75 %. Textos más cortos o traducidos también presentan tasas de detección más bajas.

A diferencia del mandato regional de OpenAI, su competidor Anthropic ha implementado el marcado con marcas de agua a nivel global para sus modelos de IA. Fuera de la UE, OpenAI mantendrá el marcado desactivado por defecto, aunque ofrecerá la función como una opción en su API. El detector de marcas de agua estará inicialmente accesible solo para investigadores y organizaciones seleccionadas, con planes de ampliar el acceso a través de un proceso de aprobación pendiente.

OpenAI planea desplegar esta función de marcado para usuarios de la UE "en las próximas semanas", introduciendo la capacidad principalmente a través de las aplicaciones ChatGPT y Codex. Este movimiento subraya la creciente influencia regulatoria sobre la transparencia en IA y los desafíos en la creación de mecanismos robustos para la identificación de contenido generado por IA.