Instagram apstiprināto slavenību deepfake AI attēli izceļ platformas riskus

Attēls: Illustrative image · Instagram · Public domain · Avots

AI radīti slavenību attēli ar apstiprinātām Instagram kontiem kļūst plaši izplatīti, izraisot bažas par identitātes zādzību, maldinošu saturu un platformas drošības pasākumiem.

Nesenā Instagram notikuma laikā tika atklātas būtiskas problēmas, ko rada AI radīti slavenību deepfake attēli sociālo mediju platformās. Instagram konts @miagoth_, kas bija apzīmēts ar zilu apstiprināšanas atzīmi un apgalvoja, ka tas pārstāv aktrisi Miju Gothu, publicēja AI radītu aktrises attēlu, kur viņa valkā T-kreklu ar uzrakstu "MY EX IS MY BIGGEST FAN" (“Mans bijušais ir mans lielākais fans”) neilgi pēc tam, kad viņa iesniedza šķiršanās pieteikumu aktierim Šijam Lebūfam. Kopā ar Bījonse dziesmu “Single Ladies (Put a Ring on It)”, šis ieraksts guva gandrīz 500 000 atzīmes Patīk, tajā skaitā no izklaides industrijas kolēģiem, lai gan šis konts bija fanu lapa un neautentisks.

Goth pārstāvis The Verge apstiprināja, ka viņi jau iepriekš bija ziņojuši Instagram par šo kontu, jo tas publicēja viltotus AI radītus attēlus. Neskatoties uz to, Instagram sistēma atļāva fanam kontam iegūt apstiprināšanas statusu, ko Goth pārstāvis nosauca par "satraucošu", kritizējot platformu par to, ka tā prioritizē manipulētus attēlus pār publisku personu līdzības tiesību aizsardzību.

Šis vīrusa AI attēls izplatījās ne tikai Instagram, bet arī pazīstamu slavenību baumu izdevumos un tika redzams Google meklēšanas rezultātos, maldinoši parādot to kā patiesu komentāru par Goth šķiršanos. Instagram galu galā noņēma šo viltoto kontu par publiskas personas identitātes viltošanu.

AI radītu slavenību deepfake attēlu izplatība turpinās arī ārpus šī gadījuma, ar daudziem Instagram kontiem, kas veido manipulētus attēlus un video ar pazīstamām personām kā Skārletu Johansonu, Teilori Sviftu un citiem, bieži vien seksualizētus vai maldinošus. Meta, Instagram māteskompānija, The Verge apstiprināja, ka pēc pieprasījumiem noņēma vairākus šādus kontus, bet atzina, ka šāda satura kontroli joprojām ir grūti īstenot.

Meta piemēro politiku pret identitātes viltošanu un prasa apzīmēt AI radītus video, taču statiskie attēli joprojām nav pakļauti AI atklāšanas prasībām, kas ierobežo skaidrību par manipulētu saturu. Šī neatbilstība ļauj AI radītiem attēliem plaši izplatīties bez lietotāju skaidras apziņas.

Salīdzinot ar citām platformām, YouTube izmanto spēcīgāku līdzības noteikšanas sistēmu, ko izstrādājusi izklaides industrija, pārbaudot gan vizuālu, gan skaņas līdzīgu saturu un ņemot vērā noņemšanas pieprasījumus sabiedrības interesēs. Tomēr AI radītā medija liels apjoms un nepārtrauktā attīstība padara izpildi sarežģītu visās sociālo tīklu platformās.

Mijas Gothas incidents ilustrē plašākas problēmas uzticības un drošības pasākumu jomā sociālajos medijos, kur AI radīti attēli var maldināt lietotājus, izplatīt nepatiesas versijas par personiskām, jūtīgām lietām un pārkāpt indivīdu tiesības. Tā kā nav universālas tiesiskās sistēmas AI līdzības tiesību regulēšanai, atbildība par ļaunprātīgas izmantošanas mazināšanu gulstas uz platformu politikām un tehnoloģiskiem risinājumiem.

Gadījumā, kad AI satura radīšanas rīki kļūst pieejamāki un sarežģītāki, sociālo mediju platformām ir pieaugošas prasības uzlabot verifikāciju, satura marķēšanu un izpildes mehānismus, lai aizsargātu publiskās personas un lietotājus no maldinošas un kaitīgas AI radītas multimediju satura.