OpenAI introduserer usynlig tekstvannmerking for ChatGPT i EU for å følge AI-loven

Bilde: TechCrunch · Kilde

OpenAI vil legge inn usynlige vannmerker i ChatGPT- og Codex-utdata i EU, som gjør det mulig å identifisere AI-innhold i henhold til nye regler, samtidig som selektiv oppdagelse tillates og begrensninger anerkjennes ved redigering eller forkorting.

OpenAI implementerer en usynlig vannmerkingsteknologi for tekst generert av deres ChatGPT- og Codex-modeller innenfor Den europeiske union for å etterkomme EUs AI-lov sine krav til åpenhet, som trådte i kraft i august 2026. Denne lovgivningen pålegger AI-selskaper å merke AI-generert innhold på en måte som andre systemer kan oppdage.

Vannmerkingen vil gradvis bli innført for kvalifiserte ChatGPT- og Codex-brukere på alle abonnementsnivåer, men kun i EU-regionen. Samtidig kan utviklere som bruker OpenAIs API over hele verden aktivere vannmerking på utvalgte modeller umiddelbart, selv om den som standard er deaktivert globalt. OpenAI har foreløpig ingen planer om å gjøre vannmerkingen obligatorisk universelt.

I motsetning til typiske synlige merker, er vannmerket innebygd ved å subtilt påvirke AI-ens ordvalgsmønstre. Dette skaper en uhåndgripelig signatur i selve teksten som gjør det mulig for deteksjonsverktøy å identifisere AI-genererte passasjer selv etter kopiering eller innliming. OpenAI understreker at vannmerket ikke sporer brukeridentiteter og ikke merkbart påvirker modellens outputkvalitet.

For å støtte åpenhet offentliggjorde OpenAI en teknisk rapport som beskriver vannmerkingstilnærmingen deres, kalt textGrain. Metoden ble utviklet sammen med forskere fra University of Pennsylvania og Yale, og bruker en hemmelig nøkkel til å omorganisere sannsynligheter for neste ord, og koder mønstre gjennom hele teksten. Deteksjon baseres utelukkende på teksten og denne hemmelige nøkkelen.

OpenAI erkjenner imidlertid begrensninger: redigering kan redusere vannmerkets påvisbarhet. For eksempel falt deteksjonsnøyaktigheten fra omtrent 92 % til 66 % da 10 % av ordene ble erstattet med synonymer. I tillegg utgjør kortere tekstsegmenter, matematiske svar og oversatt innhold utfordringer for påvisning. På grunn av dette er innledende tilgang til vannmerkingdeteksjon begrenset til godkjente forskere og ekspertorganisasjoner for å sikre ansvarlig evaluering.

OpenAI understreker at fravær av vannmerke ikke bekrefter menneskelig forfatterskap, siden innhold kan være tungt redigert, for kort, eller generert av andre AI-leverandører. Vannmerket signaliserer bare at et OpenAI-system har vært involvert i å produsere eller behandle teksten, ikke graden av menneskelig input eller kreativitet.

Dette tiltaket følger en lignende handling fra Anthropic, som startet med vannmerking av AI-modellen Claude globalt i august 2026, selv om det initiativet møtte kritikk fra brukere som understreket sin rolle i å gi instruksjoner og kontekst. OpenAI utviklet tidligere vannmerking, men utsatte utrullingen delvis på grunn av bekymringer om at brukere kunne bytte til konkurrenter uten vannmerking.

Bransjeledere som Anthropic, Google, Meta, Microsoft og OpenAI har forpliktet seg til å følge EUs praksiskodeks for AI-generert innhold, i takt med økende krav til åpenhet og ansvarlighet for AI.