Instagrami kinnitatud kuulsuste deepfake'ide AI-pildid toovad esile platvormi riskid

Pilt: Illustrative image · Instagram · Public domain · Allikas

AI-ga loodud kuulsuste pildid kinnitatud Instagrami kontodel levivad laialdaselt, tõstatades muret esindamise, eksitava sisu ja platvormi turvalisuse pärast.

Hiljutine intsident Instagramis tõi esile AI-ga loodud kuulsuste deepfake-piltide põhjustatud märkimisväärsed väljakutsed sotsiaalmeedia platvormidel. Instagrami konto @miagoth_, millel on sinine kinnituskontroll, väites end olevat näitlejanna Mia Goth, postitas AI-ga loodud pildi näitlejannast, kes kandis T-särki, millel oli kirjas "MY EX IS MY BIGGEST FAN" („Minu endine on minu suurim fänn“) vahetult pärast seda, kui ta esitas lahutustaotluse näitleja Shia LaBeoufilt. Postitus, mida saatis Beyoncé lugu "Single Ladies (Put a Ring on It)", kogus peaaegu 500 000 laikimist, sealhulgas meelelahutustööstuse kolleegidelt, kuigi konto oli fännileht ja ebaautentne.

Gothi esindaja kinnitas The Verge’ile, et nad olid varem Instagramile teatanud konto postitatud võltsitud AI-piltidest. Sellegipoolest lubas Instagrami süsteem fännilehel kinnituse saada, mida Gothi kõneisik nimetas „häirivaks“, kritiseerides platvormi selle eest, et see seab manipuleeritud pildid avaliku figuuri sarnasuse õigusest kõrgemale.

See viiruselevikuga AI-pilt levis mitte ainult Instagramis, vaid ka kuulsuste kuulujuttude väljaannetes ning ilmus silmatorkavalt Google'i otsingutulemustes, eksitavalt esitades seda kui ehtsat kommentaari Gothi lahutusele. Instagram eemaldas lõpuks võltse konto avaliku isiku esindamise eest.

AI-ga loodud kuulsuste deepfake'id levivad selle juhtumi kõrval laialdaselt, paljud Instagrami kontod loovad manipuleeritud pilte ja videoid tuntud isikutest nagu Scarlett Johansson, Taylor Swift ja teised, sageli seksuaalsete või eksitavate kujutistega. Meta, Instagrami emafirma, kinnitas The Verge’ile, et nad eemaldasid mitmeid selliseid kontosid pärast uurimisi, kuid tunnistas, et selle sisu kontrollimine on jätkuvalt keeruline.

Meta rakendab poliitikaid, mis keelavad esindamise ja nõuavad AI-videote märgistamist, kuid endiselt jäävad staatilised pildid AI-avaldusnõuetest vabastatuks, mis piirab läbipaistvust manipuleeritud sisu osas. See ebajärjekindlus võimaldab AI-piltidel laialdaselt levitada ilma kasutajate selge teadmiseta.

Võrreldes teiste platvormidega kasutab YouTube meelelahutustööstusega koostöös arendatud tugevamat sarnasuse tuvastamise süsteemi, mis skaneerib nii visuaalset kui heliliselt sarnast sisu ning võtab arvesse eemaldamispäringuid avalikus huvis. Kuid AI-ga loodud meedia suur hulk ja pidev areng teevad jõustamise keeruliseks kogu sotsiaalvõrgustikes.

Mia Gothi intsident illustreerib laiemat usalduse ja turvalisuse meetmete puudujääki sotsiaalmeedias, kus AI-pildid võivad eksitada kasutajaid, levitada valesid lugusid tundlike isiklike teemade kohta ning rikkuda üksikisikute õigusi. Kuna AI-sarnasuse õiguslik raamistik pole universaliseeritud, lasub vastutus platvormipoliitikal ja tehnoloogilistel lahendustel kuritarvituste piiramiseks.

Kuna AI sisuloomise tööriistad muutuvad järjest ligipääsetavamaks ja keerukamaks, tunnevad sotsiaalmeedia platvormid kasvavat survet parandada kinnitamist, sisu märgistamist ja jõustamismeetmeid, et kaitsta avalikke isikuid ja kasutajaid eksitava ning kahjuliku AI-luua meedia eest.