OpenAI įdiegs automatinį ChatGPT tekstų automatinį žymėjimą ES pagal numatytuosius nustatymus

Vaizdas: Ars Technica · Šaltinis

OpenAI pradės automatiškai ženklinti ChatGPT generuotus tekstus Europos Sąjungoje, siekdama atitikti ES AI įstatymą, naudodama patentuotą žymėjimo metodą textGrain. Ši funkcija kitur bus pasirenkama.

OpenAI paskelbė planus automatiškai žymėti ChatGPT generuotus tekstus Europos Sąjungoje (ES), siekdama laikytis ką tik priimto ES AI įstatymo, kuris reikalauja žymėti dirbtinio intelekto sukurtą turinį, kad jį būtų galima aptikti specializuotais įrankiais. Ši žymėjimo sistema, pavadinta textGrain, subtiliai keičia žodžių pasirinkimą generuotame turinyje, įterpdama atpažįstamus modelius – žmogiškam skaitytojui nepastebimus, bet aptinkamus naudojant specialų raktą turinčius įrankius.

Įmonės požiūris dera su esamomis pastangomis DI pramonėje užtikrinti mašininio teksto kilmės sekamumą. Tačiau OpenAI pripažįsta textGrain ribotumą, pažymėdama, kad geriausiu atveju aptikimo tikimybė kontroliuojamose sąlygose siekia apie 92 procentus. Kai tekstas šiek tiek modifikuojamas, aptikimo patikimumas ženkliai mažėja; pakeitus vos 10 procentų teksto, sėkmingas aptikimas sumažėja beveik 30 procentų, o pakeitus 20 procentų – iki 75 procentų. Trumpesni ar versti tekstai taip pat pasižymi mažesniu aptikimo rodikliu.

Skirtingai nuo regioninio OpenAI mandato, konkurentas Anthropic įdiegė žymėjimą visame pasaulyje savo DI modeliams. Už ES ribų OpenAI žymėjimą pagal numatytuosius nustatymus išlaikys išjungtą, tačiau siūlys šią funkciją kaip pasirinkimą per savo API. Žymėjimo aptikimo įrankis iš pradžių bus prieinamas tik pasirinktiems tyrėjams ir organizacijoms, ir planuojama plėsti prieigą per būsimo patvirtinimo procesą.

OpenAI planuoja šią žymėjimo funkciją ES naudotojams paleisti „per ateinančias savaites“, daugiausia ją įdiegiant per ChatGPT ir Codex programas. Šis žingsnis akcentuoja didėjantį reguliacinį DI skaidrumo poveikį ir susiduriamus iššūkius kuriant patikimas DI generuoto turinio identifikavimo priemones.