„OpenAI“ pristato nematomą teksto vandens ženklinimą ChatGPT ES siekiant laikytis AI įstatymo

Vaizdas: TechCrunch · Šaltinis

„OpenAI“ ES teritorijoje įdiegia nematomą vandens ženklinimą ChatGPT ir Codex generuojamam turiniui, leidžiant identifikuoti AI sukurtą tekstą pagal naujus reglamentus, suteikiant galimybę selektyviai aptikti ženklus ir pripažįstant ribotumus redaguojant ar trumpinant tekstą.

„OpenAI“ įgyvendina nematomos vandens ženklinimo technologiją, skirtą teksto turiniui, generuojamam naudojant jų ChatGPT ir Codex modelius Europos Sąjungoje, siekdama atitikti 2026 m. rugpjūčio mėn. pradėtą galioti ES AI įstatymo skaidrumo reikalavimą. Šis teisės aktas įpareigoja dirbtinio intelekto bendroves ženklinti AI sukurtą turinį taip, kad kitos sistemos galėtų jį aptikti.

Vandens ženklinimas bus palaipsniui taikomas ChatGPT ir Codex naudotojams visuose prenumeratos lygiuose, tačiau tik ES regione. Tuo tarpu nuo šiol kūrėjai, pasauliniu mastu naudojantys „OpenAI“ API, gali pasirinktinai aktyvuoti vandens ženklinimą kai kuriems modeliams, nors pasauliniu mastu jis pagal nutylėjimą išjungtas. „OpenAI“ šiuo metu neplanuoja privalomo universalaus vandens ženklinimo.

Skirtingai nuo įprastų matomų ženklų, vandens ženklas įterpiamas subtiliai paveikiant AI žodžių pasirinkimo modelius. Tai sukuria neįžiūrimą parašą tekste, leidžiantį aptikimo įrankiams identifikuoti AI generuotus tekstus net po jų nukopijavimo arba įklijavimo. „OpenAI“ pabrėžia, kad vandens ženklas neseka vartotojų tapatybių ir nepastebimai neįtakoja modelio išvesties kokybės.

Siekiant skaidrumo, „OpenAI“ išleido techninį pranešimą, kuriame detaliai aprašoma jų vandens ženklinimo metodika, pavadinta textGrain. Šią metodiką kartu sukūrė „University of Pennsylvania“ ir „Yale“ universiteto mokslininkai. Ji naudoja slaptą raktą, kad perrikiuotų tikimybes, kurios yra priskiriamos kitiems žodžiams, įterpiant tam tikrus modelius į tekstą. Aptikimas priklauso tik nuo paties teksto ir slapto rakto.

Tačiau „OpenAI“ pripažįsta tam tikrus apribojimus: redagavimas gali sumažinti vandens ženklo aptikimo tikslumą. Pavyzdžiui, pakeitus 10 % žodžių sinonimais, aptikimo tikslumas sumažėjo nuo maždaug 92 % iki 66 %. Be to, trumpesni tekstai, matematiniai atsakymai ir versti turiniai kelia papildomų sunkumų. Todėl pradinė prieiga prie vandens ženklo aptikimo suteikiama tik patvirtintiems tyrėjams ir ekspertų subjektams, siekiant užtikrinti atsakingą vertinimą.

„OpenAI“ pabrėžia, kad vandens ženklo nebuvimas negarantuoja žmogaus autoriaus, nes turinys galėjo būti stipriai redaguotas, per trumpas arba sukurtas kitų AI sistemų. Vandens ženklas rodo tik, kad „OpenAI“ sistema dalyvavo teksto kūrime ar apdorojime, bet neatskleidžia žmogaus įsikišimo ar kūrybiškumo lygio.

Šis žingsnis seka panašų „Anthropic“ veiksmą, kuris nuo 2026 m. rugpjūčio pradėjo vandens ženklinimą AI modeliui Claude visame pasaulyje, nors šiai iniciatyvai teko kritikos dėl vartotojų pabrėžiamo vaidmens teikiant instrukcijas ir kontekstą. „OpenAI“ anksčiau vystė vandens ženklinimą, bet jo diegimą atidėjo, iš dalies dėl susirūpinimo, kad vartotojai gali pereiti prie konkurentų be vandens ženklinimo.

Pramonės lyderiai, tarp jų „Anthropic“, Google, Meta, Microsoft ir „OpenAI“, įsipareigojo laikytis ES dirbtinio intelekto turinio gairių ir kodekso, atitinkančio didėjančius skaidrumo ir atsakomybės reikalavimus AI srityje.