OpenAI aktiviert standardmäßig automatische Wasserzeichen für ChatGPT-Ausgaben in der EU

Image: Ars Technica · Source

OpenAI wird in der Europäischen Union automatisch Wasserzeichen in von ChatGPT generierten Texten anbringen, um den EU-KI-Gesetz zu entsprechen, und verwendet dazu eine proprietäre Methode namens textGrain. Die Funktion wird außerhalb der EU optional sein.

OpenAI kündigte Pläne an, Texte, die von ChatGPT innerhalb der Europäischen Union (EU) generiert werden, automatisch mit einem Wasserzeichen zu versehen, eine Maßnahme zur Einhaltung des kürzlich verabschiedeten EU-KI-Gesetzes, das die Kennzeichnung von KI-generierten Inhalten für spezialisierte Erkennungswerkzeuge vorschreibt. Dieses Wasserzeichensystem, textGrain genannt, verändert subtil die Wortwahl in den generierten Inhalten, um erkennbare Muster einzubetten – für menschliche Leser nicht wahrnehmbar, aber von Werkzeugen mit einem speziellen Schlüssel detektierbar.

Der Ansatz des Unternehmens steht im Einklang mit laufenden Bemühungen der KI-Branche, die Rückverfolgbarkeit maschinengenerierter Texte zu gewährleisten. OpenAI weist jedoch auf die Grenzen von textGrain hin und nennt eine bestmögliche Erkennungsrate von etwa 92 % in kontrollierten Tests. Die Erkennungszuverlässigkeit nimmt deutlich ab, wenn kleinere Textänderungen vorgenommen werden; eine Änderung von nur 10 % des Textes reduziert den erfolgreichen Nachweis um fast 30 %, während eine Änderung von 20 % die Genauigkeit um bis zu 75 % mindert. Kürzere oder übersetzte Texte weisen ebenfalls niedrigere Erkennungsraten auf.

Im Gegensatz zum regionalen Mandat von OpenAI hat der Konkurrent Anthropic das Wasserzeichen weltweit für seine KI-Modelle implementiert. Außerhalb der EU wird OpenAI das Wasserzeichen standardmäßig deaktivieren, bietet die Funktion jedoch als Option in seiner API an. Der Wasserzeichendetektor wird zunächst nur ausgewählten Forschern und Organisationen zugänglich sein, mit Plänen, den Zugang über ein noch ausstehendes Genehmigungsverfahren zu erweitern.

OpenAI plant, diese Wasserzeichen-Funktion für EU-Nutzer "in den kommenden Wochen" einzuführen und das Feature hauptsächlich über die Anwendungen ChatGPT und Codex bereitzustellen. Dieser Schritt unterstreicht den zunehmenden regulatorischen Einfluss auf Transparenz in der KI und die Herausforderungen bei der Entwicklung robuster Mechanismen zur Identifikation KI-generierter Inhalte.