OpenAI führt unsichtbares Text-Wasserzeichen für ChatGPT in der EU ein zur Einhaltung des AI-Gesetzes

Image: TechCrunch · Source

OpenAI wird unsichtbare Wasserzeichen in den Ausgaben von ChatGPT und Codex innerhalb der EU einbetten, um die Identifikation von KI-Inhalten gemäß neuer Vorschriften zu ermöglichen. Dabei wird eine selektive Erkennung erlaubt und die Grenzen bei bearbeiteten oder gekürzten Texten anerkannt.

OpenAI implementiert eine unsichtbare Wasserzeichentechnologie für von seinen Modellen ChatGPT und Codex generierte Texte innerhalb der Europäischen Union, um den Transparenzanforderungen des EU AI-Gesetzes gerecht zu werden, das im August 2026 in Kraft trat. Diese gesetzliche Maßnahme verlangt von KI-Unternehmen, KI-generierte Inhalte so zu kennzeichnen, dass andere Systeme sie erkennen können.

Das Wasserzeichen wird schrittweise für berechtigte ChatGPT- und Codex-Nutzer auf allen Abonnementebenen eingeführt, jedoch ausschließlich im EU-Gebiet. Entwickler, die OpenAIs API weltweit nutzen, können das Wasserzeichen ab sofort bei ausgewählten Modellen aktivieren, wobei es global standardmäßig deaktiviert bleibt. OpenAI plant derzeit nicht, eine universelle Anwendung des Wasserzeichens durchzusetzen.

Anders als herkömmliche sichtbare Markierungen wird das Wasserzeichen eingebettet, indem subtil die Wortwahl des KI-Modells beeinflusst wird. Dies erzeugt eine für das menschliche Auge nicht wahrnehmbare Signatur im Text selbst, die Erkennungstools erlaubt, KI-generierte Passagen selbst nach Kopieren und Einfügen zu identifizieren. OpenAI betont, dass das Wasserzeichen keine Nutzeridentitäten verfolgt und die Qualität der Modellausgaben nicht merklich beeinträchtigt.

Zur Unterstützung der Transparenz veröffentlichte OpenAI einen technischen Bericht, der den Wasserzeichenansatz namens textGrain detailliert beschreibt. Entwickelt in Kooperation mit Forschern der University of Pennsylvania und Yale, wird eine geheime Schlüssel angewandt, um Wahrscheinlichkeiten der nächsten Wörter neu anzuordnen und Muster im gesamten Text einzubetten. Die Erkennung basiert ausschließlich auf dem Text und diesem geheimen Schlüssel.

OpenAI räumt jedoch Einschränkungen ein: Bearbeitung des Textes kann die Erkennbarkeit des Wasserzeichens verringern. So sank die Erkennungsgenauigkeit von etwa 92 % auf 66 %, wenn 10 % der Wörter durch Synonyme ersetzt wurden. Außerdem erschweren kürzere Textabschnitte, mathematische Antworten und übersetzte Inhalte die Erkennung. Aufgrund dieser Faktoren ist der initiale Zugriff auf die Wasserzeichenerkennung auf genehmigte Forscher und Experten beschränkt, um eine verantwortungsvolle Bewertung sicherzustellen.

OpenAI betont, dass das Fehlen eines Wasserzeichens nicht die menschliche Urheberschaft bestätigt, da Inhalte stark bearbeitet sein, sehr kurz oder von anderen KI-Anbietern erzeugt sein können. Das Wasserzeichen signalisiert nur, dass ein OpenAI-System an der Erstellung oder Verarbeitung des Textes beteiligt war, nicht jedoch das Ausmaß menschlichen Inputs oder kreativer Gestaltung.

Dieser Schritt folgt einer ähnlichen Maßnahme von Anthropic, das seit August 2026 weltweit das KI-Modell Claude mit einem Wasserzeichen versieht, wobei diese Initiative Kritik von Nutzern erfuhr, die ihre Rolle bei der Bereitstellung von Anweisungen und Kontext hervorhoben. OpenAI hatte zuvor Wasserzeichentechnologie entwickelt, deren Einführung aber unter anderem wegen Bedenken hinsichtlich Nutzerabwanderungen zu wettbewerbsfreien Angeboten verzögert wurde.

Branchenführer wie Anthropic, Google, Meta, Microsoft und OpenAI haben sich zur Einhaltung des EU-Verhaltenskodex für KI-generierte Inhalte verpflichtet, im Einklang mit steigenden Forderungen nach Transparenz und Verantwortlichkeit im Bereich KI.