OpenAI presenta marcas de agua invisibles en textos de ChatGPT en la UE para cumplir con la Ley de IA

Image: TechCrunch · Source

OpenAI incorporará marcas de agua invisibles en las salidas de ChatGPT y Codex en la UE, permitiendo la identificación de contenido generado por IA según las nuevas regulaciones. Esta tecnología permite detección selectiva y reconoce limitaciones cuando el texto es editado o abreviado.

OpenAI está implementando una tecnología de marcas de agua invisibles para el texto generado por sus modelos ChatGPT y Codex dentro de la Unión Europea para cumplir con los requisitos de transparencia establecidos por la Ley de IA de la UE, vigente desde agosto de 2026. Esta medida legislativa obliga a las compañías de IA a etiquetar el contenido generado por IA de manera que otros sistemas puedan detectarlo.

La aplicación de la marca de agua se introducirá gradualmente a los usuarios elegibles de ChatGPT y Codex en todos los niveles de suscripción, pero exclusivamente en la región de la UE. Mientras tanto, los desarrolladores que usan la API de OpenAI a nivel mundial pueden activar la marca de agua en modelos selectos desde ya, aunque por defecto sigue desactivada globalmente. OpenAI no planea imponer la marca de agua de forma universal en esta etapa.

A diferencia de marcas visibles típicas, la marca se integra influyendo sutilmente en los patrones de elección de palabras del modelo de IA. Esto crea una firma imperceptible presente en el texto, permitiendo a las herramientas de detección identificar fragmentos generados por IA incluso después de copiar o pegar. OpenAI enfatiza que la marca no rastrea la identidad del usuario ni afecta notablemente la calidad del resultado.

Para apoyar la transparencia, OpenAI publicó un informe técnico detallando su enfoque de marca de agua, denominado textGrain. Desarrollado conjuntamente con investigadores de la Universidad de Pennsylvania y Yale, el método aplica una clave secreta para reordenar las probabilidades de la siguiente palabra, incrustando patrones en todo el texto. La detección se basa únicamente en el texto y esta clave secreta.

Sin embargo, OpenAI reconoce limitaciones: la edición puede reducir la detectabilidad de la marca. Por ejemplo, reemplazar el 10% de las palabras por sinónimos bajó la precisión de detección del 92% al 66%. Además, segmentos de texto más cortos, respuestas matemáticas y contenido traducido presentan dificultades para la detección. Debido a estos factores, el acceso inicial a la detección de marcas está restringido a investigadores aprobados y entidades expertas para asegurar una evaluación responsable.

OpenAI subraya que la ausencia de marca no confirma autoría humana, ya que el contenido puede estar muy editado, ser muy breve o generado por otros proveedores de IA. La marca solo indica que un sistema de OpenAI participó en la producción o procesamiento del texto, no el grado de aporte o creatividad humana.

Esta iniciativa sigue un paso similar tomado por Anthropic, que comenzó a marcar con agua el modelo de IA Claude mundialmente en agosto de 2026, aunque dicha medida recibió críticas de usuarios que destacaron su papel proporcionando instrucciones y contexto. OpenAI había desarrollado previamente marcas de agua, pero pospuso su despliegue en parte debido a preocupaciones de que los usuarios migraran a competidores sin marcas.

Líderes de la industria como Anthropic, Google, Meta, Microsoft y OpenAI se han comprometido a respetar el código de prácticas de la UE para contenido generado por IA, alineándose con demandas crecientes por transparencia y responsabilidad en IA.