OpenAI по умолчанию включит автоматическую водяную маркировку текстов ChatGPT в ЕС

Image: Ars Technica · Source

OpenAI начнёт автоматически ставить водяные знаки на тексты, сгенерированные ChatGPT, в Европейском союзе в соответствии с законом ЕС об ИИ, используя собственный метод текстовой маркировки textGrain. Эта функция будет опциональной в других регионах.

OpenAI объявила о планах автоматически ставить водяные знаки на тексты, созданные ChatGPT в Европейском союзе (ЕС), чтобы соответствовать недавно принятому закону ЕС об искусственном интеллекте (EU AI Act), который требует маркировать контент, созданный ИИ, для его обнаружения специализированными инструментами. Система маркировки, названная textGrain, тонко изменяет выбор слов в сгенерированном контенте, чтобы встроить узнаваемые паттерны — незаметные для человеческих читателей, но обнаруживаемые инструментами, обладающими необходимым ключом.

Подход компании соответствует текущим усилиям в индустрии ИИ по обеспечению отслеживаемости машинно-сгенерированного текста. Однако OpenAI признаёт ограничения textGrain, указывая, что в лучших контролируемых тестах уровень обнаружения достигает примерно 92%. Надёжность обнаружения значительно снижается при незначительных изменениях текста; изменение всего 10% текста уменьшает успешность обнаружения почти на 30%, а изменение 20% снижает точность до 75%. Короткие или переведённые тексты также показывают более низкие показатели обнаружения.

В отличие от регионального требования OpenAI, конкурент Anthropic внедрил водяные знаки глобально для своих моделей ИИ. За пределами ЕС OpenAI по умолчанию отключит маркировку, но предложит функцию в виде опции через API. Детектор водяных знаков изначально будет доступен только избранным исследователям и организациям с планами расширить доступ через процесс утверждения.

OpenAI планирует запустить функцию маркировки водяными знаками для пользователей в ЕС «в ближайшие недели», внедряя её преимущественно через приложения ChatGPT и Codex. Этот шаг подчёркивает растущее влияние регуляторов на прозрачность ИИ и сложности создания надёжных механизмов идентификации контента, сгенерированного искусственным интеллектом.