OpenAI pēc noklusējuma Eiropas Savienībā iespējotu automātisku ChatGPT rezultātu ūdenszīmju pievienošanu

Attēls: Ars Technica · Avots

Lai ievērotu ES Mākslīgā intelekta regulu, OpenAI Eiropas Savienībā sāks automātiski pievienot ūdenszīmes ChatGPT ģenerētajam tekstam, izmantojot patentētu metodi textGrain. Pārējā pasaulē funkcija būs izvēles iespēja.

OpenAI paziņoja par plāniem Eiropas Savienībā automātiski pievienot ūdenszīmes ChatGPT ģenerētajam tekstam, lai izpildītu nesen pieņemtā ES Mākslīgā intelekta regula prasības, kas nosaka atzīmēt AI radīto saturu, lai to varētu atklāt specializēti rīki. Šī ūdenszīmju sistēma, saukta par textGrain, smalki maina vārdu izvēli ģenerētajā saturā, iestrādājot atpazīstamas, taču cilvēkiem nemanāmas, šablonus, ko var noteikt, izmantojot konkrētu atslēgu.

Uzņēmuma pieeja atbilst AI industrijas pastāvošajām pūlēm nodrošināt mašīnas ģenerētā teksta izsekojamību. Tomēr OpenAI atzīst textGrain ierobežojumus — labākajos kontroles testos atklāšanas līmenis ir aptuveni 92%. Atpazīšanas uzticamība ievērojami samazinās pat ar nelielām teksta modifikācijām; mainot tikai 10% teksta, veiksmīgas atpazīšanas iespējas samazinās par gandrīz 30%, bet 20% izmaiņas samazina precizitāti līdz pat 75%. Īsāks vai tulkots teksts arī uzrāda zemākas atpazīšanas likmes.

Atšķirībā no OpenAI reģionālā pienākuma, konkurents Anthropic ūdenszīmes ir ieviesis globāli saviem AI modeļiem. Ārpus ES OpenAI pēc noklusējuma izslēgs ūdenszīmju pievienošanu, taču šo funkciju piedāvās kā opciju savā API. Ūdenszīmju noteicējs sākotnēji būs pieejams tikai izvēlētiem pētniekiem un organizācijām, un plānots paplašināt piekļuvi pēc apstiprināšanas procesa.

OpenAI plāno šo ūdenszīmju funkciju ES lietotājiem ieviest “nākamo nedēļu laikā”, galvenokārt izmantojot ChatGPT un Codex lietotnes. Šis solis uzsver pieaugošo regulējošo ietekmi uz AI pārredzamību un izaicinājumus, radot uzticamas AI ģenerētā satura identifikācijas mehānismus.