Zweryfikowane celebrytów zdjęcia deepfake AI na Instagramie podkreślają ryzyko platformy

Image: Illustrative image · Instagram · Public domain · Source

Wizerunki celebrytów generowane przez AI z zweryfikowanymi kontami na Instagramie stają się powszechne, wywołując obawy dotyczące podszywania się, wprowadzających w błąd treści i zabezpieczeń platformy.

Niedawny incydent na Instagramie ujawnił poważne wyzwania związane z obrazami deepfake celebrytów generowanymi przez AI na platformach mediów społecznościowych. Konto na Instagramie @miagoth_, oznaczone niebieskim znaczkiem weryfikacji i podające się za aktorkę Mię Goth, opublikowało zdjęcie aktorki wygenerowane przez AI, na którym miała na sobie koszulkę z napisem "MY EX IS MY BIGGEST FAN" (Mój były to mój największy fan), krótko po tym jak złożyła pozew rozwodowy z aktorem Shią LaBeouf. Do posta dołączono utwór Beyoncé „Single Ladies (Put a Ring on It)”, który zdobył niemal 500 000 polubień, w tym od osób z branży rozrywkowej, mimo że konto było stroną fanowską i nieautentycznym profilem.

Przedstawicielka Goth potwierdziła dla The Verge, że wcześniej zgłaszali konto Instagramowi za publikowanie fałszywych obrazów generowanych przez AI. Mimo to system Instagrama pozwolił stronie fanowskiej na uzyskanie statusu weryfikacji, co rzecznik Goth nazwał "niepokojącym" i skrytykował platformę za priorytetowe traktowanie zmanipulowanych obrazów kosztem ochrony praw do wizerunku osób publicznych.

Ten wirusowy obraz AI rozprzestrzenił się nie tylko na Instagramie, lecz także zaistniał w serwisach plotkarskich o celebrytach i pojawił się wyraźnie w wynikach wyszukiwania Google, wprowadzając w błąd jako autentyczny komentarz do rozwodu Goth. Instagram ostatecznie usunął fałszywe konto za podszywanie się pod osobę publiczną.

Rozpowszechnianie deepfake AI celebrytów wykracza poza ten przypadek, ponieważ wiele kont na Instagramie produkuje zmanipulowane obrazy i filmy znanych postaci, takich jak Scarlett Johansson, Taylor Swift i innych, często w sposób seksualizowany lub wprowadzający w błąd. Meta, spółka-matka Instagrama, potwierdziła dla The Verge, że usunęła kilka takich kont po zgłoszeniach, ale przyznała, że nadal istnieją wyzwania w monitorowaniu takich treści.

Meta egzekwuje polityki przeciwko podszywaniu się i wymaga oznaczania filmów generowanych przez AI, jednak obrazy statyczne pozostają zwolnione z wymogów ujawniania, co ogranicza przejrzystość co do zmanipulowanych treści. Ta niespójność pozwala na szerokie rozpowszechnianie obrazów AI bez wyraźnej świadomości użytkowników.

W porównaniu z innymi platformami, YouTube stosuje bardziej skuteczny system wykrywania wizerunków opracowany z branżą rozrywkową, skanujący zarówno wideo, jak i treści dźwiękowe oraz uwzględniający prośby o usunięcie ze względu na interes publiczny. Jednak ogromna liczba i ewoluujący charakter mediów generowanych przez AI utrudniają egzekwowanie reguł w mediach społecznościowych.

Incydent z Mią Goth obrazuje szersze problemy w zakresie zaufania i bezpieczeństwa na platformach społecznościowych, gdzie obrazy generowane przez AI mogą wprowadzać użytkowników w błąd, rozpowszechniać fałszywe narracje dotyczące delikatnych spraw osobistych i naruszać prawa jednostek. Brak uniwersalnych ram prawnych dotyczących praw do wizerunku generowanego przez AI oznacza, że odpowiedzialność spoczywa na politykach platform i rozwiązaniach technologicznych przeciwdziałających nadużyciom.

W miarę jak narzędzia generowania treści AI stają się coraz bardziej dostępne i zaawansowane, platformy mediów społecznościowych stoją pod rosnącą presją, by poprawić procesy weryfikacji, oznaczania treści oraz mechanizmy egzekwowania, chroniąc osoby publiczne i użytkowników przed zwodniczymi i szkodliwymi materiałami tworzonymi przez AI.