Instagrams verifiserte kjendisdypefalske AI-bilder fremhever plattformsrisiko

Bilde: Illustrative image · Instagram · Public domain · Kilde

AI-genererte kjendisbilder med verifiserte Instagram-kontoer blir utbredt, noe som vekker bekymring om utgi seg for andre, villedende innhold og plattformsikkerhet.

En nylig hendelse på Instagram avslørte betydelige utfordringer knyttet til AI-genererte dype falske bilder av kjendiser på sosiale medieplattformer. En Instagram-konto, @miagoth_, merket med en blå verifisert hake og som hevdet å tilhøre skuespillerinnen Mia Goth, la ut et AI-generert bilde av skuespillerinnen iført en T-skjorte med teksten "MY EX IS MY BIGGEST FAN" like etter at hun søkte om skilsmisse fra skuespilleren Shia LaBeouf. Innlegget, med Beyoncés «Single Ladies (Put a Ring on It)», fikk nesten 500 000 likerklikk, blant annet fra kolleger i underholdningsbransjen, til tross for at kontoen var en fanside og ikke autentisk.

Goths representant bekreftet til The Verge at de tidligere hadde rapportert kontoen til Instagram for å poste falske AI-bilder. Likevel tillot Instagrams system fansiden å oppnå verifiseringsstatus, et vedtak som Goths talsmann beskriver som "bekymringsfullt" og kritiserer plattformen for å prioritere manipulerte bilder fremfor å beskytte offentlig personers rettigheter.

Dette virale AI-bildet spredte seg ikke bare på Instagram, men nådde også kjendis-skvaldersider og dukket fremtredende opp i Google-søkeresultater, hvor det villedende ble fremstilt som en autentisk kommentar til Goths skilsmisse. Instagram fjernet til slutt den falske kontoen for å utgi seg for en offentlig person.

Spredningen av AI-genererte kjendisdypefalsker går utover denne saken, med mange Instagram-kontoer som produserer manipulerte bilder og videoer av kjente personer som Scarlett Johansson, Taylor Swift og andre, ofte seksualisert eller villedende. Meta, Instagrams morselskap, bekreftet til The Verge at de fjernet flere slike kontoer etter henvendelser, men innrømmer pågående utfordringer med å overvåke dette innholdet.

Meta håndhever retningslinjer mot utgi seg for andre og krever at AI-genererte videoer merkes, men stillbilder er fortsatt unntatt fra AI-avsløringskrav, noe som begrenser åpenheten om manipulert innhold. Denne inkonsekvensen gjør at AI-genererte bilder kan sirkuleres bredt uten klar brukerforståelse.

Sammenlignet med andre plattformer bruker YouTube et mer robust system for gjenkjenning av likhet, utviklet i samarbeid med underholdningsindustrien, som søker etter både visuelt og lydmessig liknende innhold og håndterer nedtakingsforespørsler basert på allmennhetens interesse. Likevel kompliserer det store omfanget og den stadig utviklende AI-genererte mediatypen håndheving på sosiale nettverk.

Mia Goth-hendelsen illustrerer bredere svikt i tillits- og sikkerhetstiltak på sosiale medier, hvor AI-genererte bilder kan villede brukere, spre falske narrativer rundt sensitive personlige forhold og krenke enkeltpersoners rettigheter. Uten et universelt juridisk rammeverk for AI-bildelignende rettigheter, hviler ansvaret på plattformsretningslinjer og teknologiske løsninger for å redusere misbruk.

Ettersom AI-verktøy for innholdsskaping blir mer tilgjengelige og avanserte, øker presset på sosiale medieplattformer om å forbedre verifisering, innholdsmerking og håndhevingsmekanismer for å beskytte offentlige personer og brukere mot villedende og skadelige AI-skapte medier.