OpenAI kommer som standard att möjliggöra automatisk vattenmärkning av ChatGPT-utdata inom EU

Bild: Ars Technica · Källa

OpenAI kommer att börja vattenmärka text som genereras av ChatGPT automatiskt inom Europeiska unionen för att följa EU:s AI-förordning, med en egen vattenmärkningsmetod kallad textGrain. Funktionen kommer att vara valfri i övriga delar av världen.

OpenAI tillkännagav planer på att automatiskt vattenmärka text genererad av ChatGPT inom Europeiska unionen (EU). Detta är en åtgärd för att uppfylla den nyligen antagna EU AI-förordningen som kräver märkning av AI-producerat innehåll för att kunna upptäckas av specialiserade verktyg. Vattenmärkningssystemet, som heter textGrain, ändrar subtilt ordval i det genererade innehållet för att infoga identifierbara mönster – omärkliga för mänskliga läsare men upptäckbara av verktyg som har en särskild nyckel.

Företagets metod stämmer överens med pågående insatser inom AI-branschen för att möjliggöra spårbarhet av maskingenererad text. OpenAI påpekar dock begränsningarna med textGrain och nämner en bästa möjliga upptäcktsfrekvens på cirka 92 procent under kontrollerade tester. Upptäcktsförmågan minskar avsevärt vid lättare textmodifieringar; en förändring av bara 10 procent av texten minskar framgångsrik upptäckt med nästan 30 procent, medan en förändring på 20 procent sänker noggrannheten med upp till 75 procent. Kortare eller översatt text ger också lägre upptäcktsfrekvens.

Till skillnad från OpenAIs regionala mandat har konkurrenten Anthropic infört vattenmärkning globalt för sina AI-modeller. Utanför EU kommer OpenAI att ha vattenmärkning avstängd som standard, men funktionen kommer att erbjudas som ett val i deras API. Vattenmärkningsdetektorn kommer initialt endast vara tillgänglig för utvalda forskare och organisationer, med planer på att utöka tillgången genom en pågående godkännandeprocess.

OpenAI planerar att lansera denna vattenmärkningsfunktion för användare inom EU "inom de närmaste veckorna", och möjligheten kommer främst att införas via ChatGPT och Codex-applikationerna. Detta steg understryker det ökande regulatoriska inflytandet på AI-transparens och de utmaningar som finns i att skapa robusta identifieringsmekanismer för AI-genererat innehåll.