OpenAI tutvustab nähtamatut teksti vesimärki ChatGPT jaoks EL-is AI seadusega vastavuse tagamiseks

Pilt: TechCrunch · Allikas

OpenAI lisab ChatGPT ja Codexi väljunditele EL-is nähtamatuid vesimärke, võimaldades AI sisu tuvastamist vastavalt uutele regulatsioonidele. Seda vesimärki saab valikuliselt tuvastada ning see on alati tõhus vaid muudetud või lühendatud tekstide puhul piiratud.

OpenAI rakendab Euroopa Liidus oma ChatGPT ja Codex mudelite poolt genereeritud tekstidele nähtamatut vesimärgistustehnoloogiat, et täita 2026. aasta augustis jõustunud ELi tehisintellekti (AI) seaduse läbipaistvuse nõudeid. See seadusandlik meede nõuab, et AI-ettevõtted märgistaksid AI-l loodud sisu viisil, mida teised süsteemid suudavad tuvastada.

Vesimärgi kasutuselevõtt toimub järk-järgult kõigile sobivatele ChatGPT ja Codex kasutajatele kõigil tellimustasemetel, kuid ainult EL-i regioonis. Samal ajal saavad arendajad üle kogu maailma, kes kasutavad OpenAI API-d, alustada vesimärgi aktiveerimist valitud mudelitel viivitamatult, kuigi see on vaikimisi ülemaailmselt välja lülitatud. OpenAI-l puuduvad praegu plaanid vesimärgistamist universaalselt kohaldada.

Erinevalt tavapärastest nähtavatest märkidest on vesimärk peidetud AI sõnavalikumustrites õrnalt mõjudes. See loob tekstis nähtamatu allkirja, mis võimaldab tuvastustööriistadel leida AI poolt genereeritud lõigud isegi pärast kopeerimist või kleepimist. OpenAI rõhutab, et vesimärk ei jälgi kasutajate identiteeti ega mõjuta märgatavalt mudeli väljundite kvaliteeti.

Läbipaistvuse toetuseks avaldas OpenAI tehnilise aruande oma vesimärgistamismeetodi kohta, nimega textGrain. Meetod on arendatud koostöös Pennsylvania ja Yale'i ülikoolide teadlastega. See rakendab salajast võtit järgmise sõna tõenäosuste ümberkorraldamiseks, kandes mustreid kogu tekstis. Tuvastamine põhineb üksnes tekstil ja sellel salajasel võtmel.

OpenAI tunnistab siiski piiranguid: teksti muutmine vähendab vesimärgi tuvastatavust. Näiteks 10% sõnade asendamine sünonüümidega alandas tuvastustäpsust umbes 92%-lt 66%-le. Lisaks tekitavad väljakutseid lühikesed tekstilõigud, matemaatilised vastused ja tõlgitud sisu. Nende tegurite tõttu on vesimärgi tuvastamise esialgne ligipääs piiratud kinnitatud teadlaste ja ekspertorganisatsioonidega, et tagada vastutustundlik hindamine.

OpenAI rõhutab, et vesimärgi puudumine ei kinnita inimautorlust, kuna sisu võib olla tugevalt muudetud, liiga lühike või loodud teiste AI teenusepakkujate poolt. Vesimärk näitab üksnes, et OpenAI süsteem osales teksti loomisel või töötlemisel, mitte inimese panuse või loovuse ulatust.

See samm järgneb sarnasele ettevõtmisele Anthropicult, kes alustas AI mudeli Claude ülemaailmset vesimärgistamist 2026. aasta augustis, kuigi see algatus kohtas kasutajate kriitikat, kes rõhutasid oma rolli juhiste ja konteksti pakkumisel. OpenAI oli vesimärgistamise välja arendanud juba varem, kuid viivitas juurutamisega osaliselt seetõttu, et kartis kasutajate üleminekut konkurentidelt, kes vesimärki ei kasuta.

Tööstuse liidrid nagu Anthropic, Google, Meta, Microsoft ja OpenAI on lubanud järgida EL-i AI loodud sisu käitumiskoodeksit, mis on kooskõlas kasvava nõudlusega AI läbipaistvuse ja vastutuse järele.