OpenAI lubab automaatse ChatGPT väljundite veebi-vesimärgi lisamise vaikimisi ELis

Pilt: Ars Technica · Allikas

OpenAI hakkab Euroopa Liidus automaatselt lisama veebi-vesimärki ChatGPT genereeritud tekstile, et täita ELi tehisintellekti seaduse nõudeid, kasutades selleks patenteeritud meetodit nimega textGrain. Mujal maailmas on see funktsioon vabatahtlik.

OpenAI teatas plaanist automaatselt lisada veebi-vesimärk ChatGPT poolt Euroopa Liidus (EL) genereeritud tekstile, et täita hiljuti vastu võetud ELi tehisintellekti seaduse nõudeid, mis kohustavad märgistama AI poolt loodud sisu spetsiaalsete tuvastusvahendite abil. See veebi-vesimärgistamise süsteem nimega textGrain muudab peenelt sõnavalikuid genereeritud tekstis, et sisestada äratuntavaid mustreid — need on inimesele märkamatud, kuid tuvastatavad tööriistade poolt, millel on vastav võti.

Ettevõtte lähenemine on kooskõlas AI valdkonna jätkuvate pingutustega pakkuda masinatega genereeritud teksti jälgitavust. Samas tunnistab OpenAI textGraini piiranguid, märkides, et kontrollitud testides on parim tuvastusmäär ligikaudu 92 protsenti. Tuvastamise usaldusväärsus väheneb märgatavalt isegi väikeste tekstimuudatuste korral; vaid 10% teksti muutmine vähendab edukat tuvastust ligi 30%, samas kui 20% muutmine toob täpsuse languse kuni 75%. Lühikesed või tõlgitud tekstid näitavad samuti madalamat tuvastusmäärasid.

Erinevalt OpenAI piirkondlikust kohustusest on konkurent Anthropic rakendanud veebi-vesimärgi ülemaailmselt oma AI mudelitel. ELi piiridest väljaspool on OpenAI vaikimisi veebi-vesimärgistamise välja lülitanud, kuid pakub selle funktsiooni valikuliselt oma API kaudu. Veebi-vesimärgi tuvastaja on algselt kättesaadav vaid valitud teadlastele ja organisatsioonidele ning kavas on laieneda kasutajaskonda heakskiiduprotsessi kaudu.

OpenAI plaanib selle veebi-vesimärgistamise funktsiooni EL kasutajatele rakendada „järgnevate nädalate jooksul“, suunates selle eelkõige ChatGPT ja Codex rakenduste kaudu kasutajatele. See samm rõhutab suurenevat regulatiivset mõju AI läbipaistvusele ning AI-ga genereeritud sisu usaldusväärse tuvastamise loomise keerukust.