Instagrams verifierade kändisdeepfake AI-bilder belyser plattformsrisker

Bild: Illustrative image · Instagram · Public domain · Källa

AI-genererade kändisbilder med verifierade Instagram-konton sprids allt mer, vilket väcker oro för identitetskapning, vilseledande innehåll och plattformsåtgärder.

En nyligen inträffad händelse på Instagram avslöjade betydande utmaningar som AI-genererade deepfake-bilder av kändisar utgör på sociala medieplattformar. Ett Instagramkonto, @miagoth_, märkt med en blå verifierad bock och som påstod sig tillhöra skådespelerskan Mia Goth, publicerade en AI-genererad bild av skådespelerskan iförd en T-shirt med texten "MY EX IS MY BIGGEST FAN" strax efter att hon ansökt om skilsmässa från skådespelaren Shia LaBeouf. Inlägget, ackompanjerat av Beyoncés "Single Ladies (Put a Ring on It)", fick nästan 500 000 gilla-markeringar, inklusive från branschkollegor inom underhållning, trots att kontot var en fan-sida och inte autentiskt.

Goths representant bekräftade för The Verge att de tidigare rapporterat kontot till Instagram för att ha publicerat falska AI-bilder. Ändå tillät Instagrams system fan-kontot att erhålla verifieringsstatus, ett beslut som Goths talesperson kallade "oroande" och kritiserade plattformen för att prioritera manipulerade bilder framför att skydda offentliga personers bildrättigheter.

Denna virala AI-bild spreds inte bara på Instagram utan nådde även kändisskvallersajter och dök framträdande upp i Googles sökresultat, där den vilseledande framställdes som en autentisk kommentar till Goths skilsmässa. Instagram raderade så småningom det bedrägliga kontot för identitetskapning av en offentlig figur.

Spridningen av AI-genererade kändisdeepfakes sträcker sig bortom detta fall, med många Instagramkonton som producerar manipulerade bilder och videor av välkända personer som Scarlett Johansson, Taylor Swift och andra, ofta sexualiserade eller vilseledande. Meta, Instagrams moderbolag, bekräftade för The Verge att de tagit bort flera sådana konton efter förfrågningar, men erkände de pågående svårigheterna att övervaka denna typ av innehåll.

Meta tillämpar policyer mot identitetskapning och kräver att AI-genererade videor märks, men stillbilder undantas från AI-uttalandekrav, vilket begränsar transparensen kring manipulerat material. Denna inkonsekvens gör att AI-genererade bilder kan cirkulera brett utan tydlig användarinsikt.

Jämfört med andra plattformar använder YouTube ett mer robust system för identifiering av bildlikhet, utvecklat i samarbete med underhållningsindustrin, som söker både visuellt och ljudliknande innehåll samt hanterar nedtagningsbegäranden utifrån allmänintresse. Dock komplicerar den stora mängden och den ständigt utvecklande AI-genererade mediatypen tillsynen över sociala nätverk.

Mia Goth-händelsen illustrerar bredare misslyckanden i förtroende och säkerhetsåtgärder på sociala medier, där AI-genererade bilder kan vilseleda användare, sprida falska berättelser kring känsliga personliga angelägenheter och kränka individers rättigheter. Eftersom det saknas en universell lagstiftning om AI-bildrättigheter ligger ansvaret på plattformsregler och tekniska lösningar för att minska missbruk.

När AI-verktyg för innehållsgenerering blir mer tillgängliga och avancerade ökar trycket på sociala medieplattformar att förbättra verifiering, innehållsmarkering och efterlevnadsmekanismer för att skydda offentliga personer och användare från vilseledande och skadliga AI-skapade medier.