OpenAI ottaa oletuksena käyttöön ChatGPT:n tuottaman tekstin automaattisen vesileimauksen EU:ssa

Kuva: Ars Technica · Lähde

OpenAI alkaa automaattisesti lisätä vesileimoja ChatGPT:n tuottamiin teksteihin Euroopan unionissa EU:n tekoälyasetuksen noudattamiseksi käyttäen patentoitua textGrain-vesileimausmenetelmää. Toiminto on muualla valinnainen.

OpenAI on ilmoittanut suunnitelmistaan lisätä automaattisesti vesileimoja ChatGPT:n EU:n alueella tuottamiin teksteihin, täyttääkseen juuri voimaan tulleen EU:n tekoälyasetuksen vaatimukset, jotka edellyttävät tekoälyn luoman sisällön merkitsemistä erikoistyökaluilla havaittavaksi. Tämä vesileimausjärjestelmä, nimeltään textGrain, muuttaa hienovaraisesti sanavalintoja tuotetussa sisällössä siten, että niihin sisältyy tunnistettavia kuvioita – jotka ovat ihmisille huomaamattomia, mutta joita voidaan havaita työkalujen avulla, joilla on tietty avain.

Yrityksen lähestymistapa on linjassa tekoälyalan pyrkimysten kanssa tehdä koneellisesti generoitu teksti jäljitettäväksi. Kuitenkin OpenAI myöntää textGrainin rajoitukset, ja arvioi parhaimmillaan noin 92 prosentin tunnistusasteen kontrolloiduissa testeissä. Tunnistuksen luotettavuus heikkenee merkittävästi, kun tekstiin tehdään pieniä muutoksia; vain 10 prosentin tekstin muuttaminen vähentää onnistunutta tunnistusta lähes 30 prosentilla, ja 20 prosentin muutoksella tarkkuus laskee jopa 75 prosenttiin. Lyhyemmät tai käännetyt tekstit näyttävät myös heikompia tunnistusasteita.

Toisin kuin OpenAI:n alueellinen velvoite, kilpailija Anthropic on ottanut vesileimauksen käyttöön maailmanlaajuisesti AI-malleissaan. EU:n ulkopuolella OpenAI pitää vesileimauksen oletuksena pois päältä, mutta tarjoaa ominaisuuden valinnaisesti API:ssaan. Vesileiman tunnistin on aluksi saatavilla vain valikoiduille tutkijoille ja organisaatioille, ja käyttöä aiotaan laajentaa hyväksyntäprosessin kautta.

OpenAI aikoo ottaa vesileimaustoiminnon käyttöön EU-käyttäjille "tulevina viikkoina", pääasiassa ChatGPT- ja Codex-sovellusten kautta. Tämä korostaa kasvavaa sääntelyyn perustuvaa vaikutusta tekoälyn läpinäkyvyyteen sekä haasteita, joita on tekoälyn tuottaman sisällön luotettavien tunnistusmekanismien luomisessa.