OpenAI wprowadza niewidzialne znakowanie wodne tekstu dla ChatGPT w UE w celu zgodności z Aktem AI

Image: TechCrunch · Source

OpenAI wprowadzi niewidzialne znaki wodne w wynikach ChatGPT i Codex w UE, co umożliwi identyfikację treści generowanych przez AI zgodnie z nowymi regulacjami, przy jednoczesnym pozwoleniu na selektywne wykrywanie i uznaniu ograniczeń w przypadku edycji lub skracania tekstu.

OpenAI wdraża technologię niewidzialnego znakowania wodnego dla tekstów generowanych przez modele ChatGPT i Codex na terenie Unii Europejskiej, aby spełnić wymogi transparentności wynikające z aktu prawnego UE dotyczącego AI, który wszedł w życie w sierpniu 2026 roku. Ten akt legislacyjny obliguje firmy zajmujące się AI do oznaczania treści generowanych przez sztuczną inteligencję w sposób umożliwiający wykrycie ich przez inne systemy.

Znakowanie wodne będzie stopniowo wprowadzane dla kwalifikujących się użytkowników ChatGPT i Codex na wszystkich poziomach subskrypcji, lecz wyłącznie na obszarze UE. Równocześnie deweloperzy korzystający z API OpenAI na całym świecie mogą aktywować znakowanie dla wybranych modeli od zaraz, choć globalnie domyślnie jest ono wyłączone. OpenAI nie planuje na razie uniwersalnego obowiązkowego znakowania.

W przeciwieństwie do typowych widocznych oznaczeń, znak wodny jest umieszczany poprzez subtelne wpływanie na wzorce wyboru słów przez AI. Tworzy to niedostrzegalny podpis w samym tekście, co pozwala narzędziom do wykrywania identyfikować fragmenty wygenerowane przez AI nawet po kopiowaniu lub wklejaniu. OpenAI podkreśla, że znak wodny nie śledzi tożsamości użytkowników i nie wpływa zauważalnie na jakość generowanych odpowiedzi.

Dla zapewnienia transparentności OpenAI opublikowało raport techniczny opisujący metodę znakowania, nazwaną textGrain. Opracowana wspólnie z badaczami z Uniwersytetu Pensylwanii i Yale metoda stosuje tajny klucz do przestawienia prawdopodobieństw kolejnych słów, wprowadzając wzory w całym tekście. Wykrywanie opiera się wyłącznie na tekście i tym tajnym kluczu.

Jednakże OpenAI przyznaje ograniczenia: edycja tekstu może zmniejszyć wykrywalność znaku wodnego. Przykładowo, zastąpienie 10% słów synonimami obniżyło dokładność wykrywania z około 92% do 66%. Ponadto krótsze fragmenty tekstów, odpowiedzi matematyczne oraz tłumaczona zawartość stanowią wyzwania dla wykrywania. Z tych powodów początkowy dostęp do narzędzi wykrywających znak wodny ma charakter ograniczony i przysługuje zatwierdzonym badaczom oraz ekspertom w celu zapewnienia odpowiedzialnej oceny.

OpenAI podkreśla, że brak znaku wodnego nie potwierdza autorstwa człowieka, gdyż treść mogła zostać mocno zmodyfikowana, być zbyt krótka lub pochodzić od innych dostawców AI. Znak wodny jedynie wskazuje, że system OpenAI brał udział w tworzeniu lub przetwarzaniu tekstu, ale nie informuje o udziale człowieka czy twórczości.

Ten krok następuje po podobnym ruchu firmy Anthropic, która zaczęła znakować model AI Claude na całym świecie w sierpniu 2026, choć inicjatywa ta spotkała się z krytyką użytkowników podkreślających własną rolę w dostarczaniu instrukcji i kontekstu. OpenAI wcześniej opracowało znakowanie wodne, ale opóźniło wdrożenie częściowo z obaw przed migracją użytkowników do konkurentów nie stosujących znakowania.

Liderzy branży, w tym Anthropic, Google, Meta, Microsoft oraz OpenAI, zobowiązali się do przestrzegania unijnego kodeksu praktyk dotyczącego treści generowanych przez AI, co jest zgodne z rosnącymi wymaganiami dotyczącymi przejrzystości i odpowiedzialności AI.