OpenAI vil aktivere automatisk vannmerking av ChatGPT-utdata som standard i EU

Bilde: Ars Technica · Kilde

OpenAI vil begynne å automatisk vannmerke tekst generert av ChatGPT i Den europeiske union for å etterkomme EU AI-loven, ved bruk av en proprietær vannmerkingsmetode kalt textGrain. Funksjonen blir valgfri i andre områder.

OpenAI kunngjorde planer om å automatisk vannmerke tekst generert av ChatGPT innenfor Den europeiske union (EU), en tiltak for å overholde den nylig vedtatte EU AI-loven som krever merking av AI-produsert innhold for oppdagelse av spesialiserte verktøy. Dette vannmerkingssystemet, kalt textGrain, endrer subtilt ordvalg i generert innhold for å innbake identifiserbare mønstre — umulig for mennesker å oppdage, men synlig for verktøy som har en bestemt nøkkel.

Selskapets tilnærming er i tråd med pågående industriforsøk på å skape sporbarhet i maskin-generert tekst. OpenAI erkjenner imidlertid begrensningene ved textGrain og opplyser om en best mulig deteksjonsrate på ca. 92 prosent i kontrollerte tester. Oppdagelsesnøyaktigheten svekkes betydelig ved små tekstendringer; bare 10 prosent endring reduserer suksessen med nesten 30 prosent, mens 20 prosent endring kan senke nøyaktigheten med opptil 75 prosent. Kortere eller oversatt tekst har også lavere oppdagelsesrate.

I motsetning til OpenAIs regionale pålegg har konkurrenten Anthropic innført vannmerking globalt for sine AI-modeller. Utenfor EU vil OpenAI holde vannmerking av som standard, men tilby funksjonen som et valg i sitt API. Vannmerke-detektoren vil i første omgang bare være tilgjengelig for utvalgte forskere og organisasjoner, med planer om å utvide tilgangen via en pågående godkjenningsprosess.

OpenAI planlegger å rulle ut denne vannmerkingsfunksjonen til EU-brukere «i løpet av de kommende ukene», og innføre muligheten hovedsakelig gjennom ChatGPT og Codex-applikasjonene. Tiltaket understreker økt regulatorisk påvirkning på AI-transparens og utfordringene med å utvikle pålitelige identifikasjonsmekanismer for AI-generert innhold.