OpenAI wprowadzi automatyczne znakowanie wodne tekstów ChatGPT domyślnie w UE

Image: Ars Technica · Source

OpenAI zacznie automatycznie znakować wodnie tekst generowany przez ChatGPT w Unii Europejskiej, aby spełnić wymogi unijnej ustawy o sztucznej inteligencji (EU AI Act). Wykorzysta do tego własną metodę znakowania tekstGrain. Funkcja będzie opcjonalna poza UE.

OpenAI ogłosiło plany automatycznego znakowania wodnego tekstów generowanych przez ChatGPT w Unii Europejskiej (UE). Ruch ten ma na celu spełnienie wymogów niedawno uchwalonej ustawy EU AI Act, która nakazuje oznaczanie treści wytwarzanych przez sztuczną inteligencję w sposób umożliwiający ich wykrycie przez specjalistyczne narzędzia. System znakowania wodnego, nazwany textGrain, delikatnie modyfikuje wybory słów w wygenerowanych tekstach, aby osadzić rozpoznawalne wzory – niewidoczne dla ludzkiego czytelnika, ale wykrywalne przez narzędzia posiadające odpowiedni klucz.

Podejście firmy jest zgodne z trwającymi wysiłkami w branży AI na rzecz zapewnienia śledzenia tekstów generowanych maszynowo. OpenAI jednak zauważa ograniczenia textGrain, podając, że najlepszy wskaźnik wykrywalności to około 92% w warunkach kontrolowanych testów. Niezawodność wykrywania znacznie spada przy nawet niewielkich modyfikacjach tekstu; zmiana tylko 10% treści obniża skuteczność wykrywania o niemal 30%, podczas gdy zmiana 20% tekstu zmniejsza dokładność nawet o 75%. Krótsze lub tłumaczone teksty również wykazują niższe wskaźniki wykrywalności.

W przeciwieństwie do regionalnego wymogu OpenAI, konkurencyjna firma Anthropic wprowadziła znakowanie wodne globalnie dla swoich modeli AI. Poza UE OpenAI pozostawi znakowanie wyłączone domyślnie, ale zaoferuje tę funkcję jako opcję w swoim API. Detektor znaków wodnych początkowo będzie dostępny tylko dla wybranych badaczy i organizacji, z planami rozszerzenia dostępu po uzyskaniu odpowiednich zezwoleń.

OpenAI planuje wprowadzić funkcję znakowania wodnego dla użytkowników w UE „w nadchodzących tygodniach”, przede wszystkim w aplikacjach ChatGPT i Codex. Ten krok podkreśla rosnący wpływ regulacji na przejrzystość AI oraz wyzwania związane z tworzeniem skutecznych mechanizmów identyfikacji treści generowanych przez sztuczną inteligencję.