OpenAI внедряет невидимую водяную маркировку текста для ChatGPT в ЕС для соблюдения требований Закона об ИИ

Image: TechCrunch · Source

OpenAI встроит невидимые водяные знаки в результаты ChatGPT и Codex в ЕС, что позволит идентифицировать контент, созданный ИИ, в соответствии с новыми нормативами, обеспечивая выборочное обнаружение и признавая ограничения при редактировании или сокращении.

OpenAI внедряет технологию невидимой водяной маркировки для текстов, созданных моделями ChatGPT и Codex на территории Европейского Союза, чтобы соответствовать требованиям прозрачности в соответствии с Законом ЕС об ИИ, вступившим в силу в августе 2026 года. Этот законодательный акт обязывает компании, работающие с ИИ, маркировать сгенерированный искусственным интеллектом контент таким образом, чтобы другие системы могли его обнаруживать.

Водяные знаки будут постепенно вводиться для соответствующих пользователей ChatGPT и Codex всех уровней подписки, но исключительно в регионе ЕС. Тем временем разработчики, использующие API OpenAI по всему миру, могут сиюминутно активировать маркировку для выбранных моделей, хотя по умолчанию она отключена глобально. OpenAI не планирует на данном этапе универсальное обязательное внедрение маркировки.

В отличие от обычных видимых меток, водяной знак встраивается путем тонкого влияния на выбор слов AI. Это создает неощутимый подпись непосредственно в тексте, позволяя инструментам обнаружения идентифицировать фрагменты, сгенерированные ИИ, даже после копирования или вставки. OpenAI подчеркивает, что водяной знак не отслеживает личности пользователей и не оказывает заметного влияния на качество выдачи модели.

Для обеспечения прозрачности OpenAI опубликовала технический доклад, описывающий их метод маркировки, названный textGrain. Разработанный совместно с исследователями из Университета Пенсильвании и Йеля, метод применяет секретный ключ для перестановки вероятностей следующих слов, внедряя схемы по всему тексту. Обнаружение основано исключительно на тексте и этом секретном ключе.

Однако OpenAI признает ограничения: редактирование может снизить обнаруживаемость водяного знака. Например, замена 10% слов синонимами снизила точность обнаружения с примерно 92% до 66%. Кроме того, короткие текстовые сегменты, математические ответы и переведенный контент создают сложности для обнаружения. По этим причинам первоначальный доступ к инструментам обнаружения водяных знаков ограничен одобренными исследователями и экспертными организациями для обеспечения ответственной оценки.

OpenAI подчеркивает, что отсутствие водяного знака не подтверждает авторство человека, поскольку контент мог быть значительно отредактирован, слишком краток или сгенерирован другими поставщиками ИИ. Водяной знак лишь сигнализирует, что система OpenAI была задействована в создании или обработке текста, но не указывает степень участия человека или креативности.

Этот шаг следует за аналогичным действием компании Anthropic, которая начала применять водяные знаки для модели ИИ Claude по всему миру в августе 2026 года, хотя эта инициатива встретила критику от пользователей, подчеркивающих свою роль в предоставлении инструкций и контекста. OpenAI ранее разработала технологию водяных знаков, но отложила её внедрение частично из-за опасений, что пользователи могут перейти к конкурентам без маркировки.

Лидеры отрасли, включая Anthropic, Google, Meta, Microsoft и OpenAI, обязались соблюдать кодекс поведения ЕС в отношении контента, созданного ИИ, что соответствует растущим требованиям прозрачности и ответственности в сфере ИИ.