Instagramo patikrintos įžymybių deepfake AI nuotraukos atskleidžia platformos rizikas

Vaizdas: Illustrative image · Instagram · Public domain · Šaltinis

AI generuotos įžymybių nuotraukos su patvirtintais Instagram paskyromis plinta, kelia susirūpinimą dėl apsimetimų, klaidinančio turinio ir platformos saugumo priemonių.

Neseniai Instagram platformoje įvykęs atvejis atskleidė reikšmingus iššūkius, susijusius su AI generuotomis deepfake įžymybių nuotraukomis socialiniuose tinkluose. Instagram paskyra @miagoth_, pažymėta mėlynu patvirtinimo ženklu ir teigianti esanti aktorė Mia Goth, paskelbė AI generuotą nuotrauką, kurioje aktorė dėvi marškinėlį su užrašu „MY EX IS MY BIGGEST FAN“ („Mano buvęs – mano didžiausias gerbėjas“), netrukus po to, kai ji pateikė skyrybų pareiškimą nuo aktoriaus Shia LaBeouf. Pranešimas, lydimas Beyoncé dainos „Single Ladies (Put a Ring on It)“, sulaukė beveik 500 000 patiktukų, tarp jų ir iš pramogų industrijos kolegų, nors paskyra buvo fanų puslapis ir neautentiška.

Goth atstovas patvirtino svetainės The Verge, kad jau buvo anksčiau pranešta Instagram dėl klastotomis AI nuotraukomis apsimetančios paskyros. Nepaisant to, Instagram sistema leido fanų paskyrai įgyti patvirtinimo statusą, kas, Goth atstovo nuomone, yra „nerimą keliantis“ sprendimas, kuris kritikuojamas už tai, kad platforma pirmenybę teikia manipuliuotoms nuotraukoms, o ne viešų asmenų panašumo teisių apsaugai.

Ši virusinė AI nuotrauka plito ne tik Instagram platformoje, bet ir pateko į pramogų naujienų svetaines bei buvo gerai matoma Google paieškos rezultatuose, klaidingai vaizduojant ją kaip autentišką komentarą apie Goth skyrybas. Galiausiai Instagram pašalino šią fiktyvią paskyrą dėl viešos asmenybės apsimetinėjimo.

AI generuotų įžymybių deepfake plitimas nesibaigia šiuo atveju – daugybė Instagram paskyrų gamina manipuliuotas nuotraukas ir vaizdo įrašus su žinomais asmenimis, tokiais kaip Scarlett Johansson, Taylor Swift ir kt., dažnai seksualizuotas ar klaidinančias. Meta, Instagram motininė kompanija, patvirtino The Verge, kad po tyrimų pašalino kelias tokių paskyrų, tačiau pripažino, kad kovoti su tokiu turiniu yra nuolatinis iššūkis.

Meta vykdo politiką prieš apsimetinėjimą ir reikalauja, kad AI generuoti vaizdo įrašai būtų pažymėti, tačiau statinės nuotraukos išimtis – jos neprivalo turėti AI atskleidimo žymų, kas mažina skaidrumą dėl manipuliuoto turinio. Ši neatitikimas leidžia AI generuotoms nuotraukoms plačiai cirkuliuoti be aiškios vartotojų žinios.

Lyginant su kitomis platformomis, YouTube naudoja pažangesnę panašumo aptikimo sistemą, sukurtą kartu su pramogų industrija, kuri ieško tiek vaizdinio, tiek garsinio panašumo kontento ir priima pašalinimo prašymus, remiantis viešosios nuomonės interesais. Tačiau didžiulis kiekis ir nuolatinis AI kurto turinio vystymasis apsunkina kontrolę visose socialinėse tinkluose.

Mia Goth atvejis iliustruoja platesnį nepasitikėjimą ir saugumo priemonių trūkumą socialiniuose tinkluose, kur AI generuotos nuotraukos gali klaidinti vartotojus, platinti klaidingas istorijas apie jautrius asmeninius reikalus ir pažeisti asmenines teises. Kadangi neegzistuoja visuotinis teisinis AI panašumo apsaugos reguliavimas, atsakomybė tenka platformų politikai ir technologiniams sprendimams, kurie mažintų piktnaudžiavimą.

Kadangi AI kurimo įrankiai tampa lengvai prieinami ir pažangūs, socialinės medijos platformos susiduria su vis didesniu spaudimu tobulinti patvirtinimo, turinio žymėjimo ir vykdymo mechanizmus, kad apsaugotų viešus asmenis ir vartotojus nuo klaidinančio bei žalingo AI kuriamo turinio.