Instagramin vahvistettujen julkkisten deepfake AI-kuvat paljastavat alustan riskit

Kuva: Illustrative image · Instagram · Public domain · Lähde

AI:n luomia julkkiskuvasisältöjä, joita julkaistaan vahvistetuissa Instagram-tileissä, leviää laajasti, herättäen huolta esiintymisestä, harhaanjohtavasta sisällöstä ja alustan turvatoimista.

Hiljattainen tapaus Instagramissa paljasti merkittäviä haasteita, joita AI:n luomat deepfake-kuvat julkkiksista aiheuttavat sosiaalisen median alustoilla. Instagram-tili @miagoth_, joka oli merkitty sinisellä vahvistusmerkinnällä ja väitti olevansa näyttelijä Mia Goth, julkaisi AI:n tuottaman kuvan, jossa näyttelijä pukeutui T-paitaan, jossa luki "MY EX IS MY BIGGEST FAN" heti sen jälkeen, kun hän oli hakenut avioeroa näyttelijä Shia LaBeoufista. Beyoncé:n "Single Ladies (Put a Ring on It)" -kappaleen säestyksellä julkaisu keräsi lähes 500 000 tykkäystä, myös viihdeteollisuuden kollegoilta, vaikka tili olikin fanisivu eikä aito.

Gothin edustaja vahvisti The Vergelle, että he olivat aiemmin ilmoittaneet tilistä Instagramille väärennettyjen AI-kuvien julkaisemisesta. Silti Instagramin järjestelmä salli fanitilin saada vahvistetun tilin statuksen, mikä Gothin edustajan mukaan on "huolestuttavaa" ja joka kritisoi alustaa manipuloitujen kuvien suosimisesta julkisuuden henkilöiden kuva-oikeuksien suojelemisen sijaan.

Tämä viraali AI-kuva ei levittynyt pelkästään Instagramissa, vaan se levisi myös julkkisten juorulehtiin ja näkyi näkyvästi Googlen hakutuloksissa, harhaanjohtavasti esittäen sen aitona kommenttina Gothin avioeroon liittyen. Instagram poisti lopulta petollisen tilin esiintymisrikkomuksen vuoksi.

AI:n luomien julkkisten deepfake-kuvien lisääntyminen ei rajoitu tähän tapaukseen – lukuisat Instagram-tilit luovat manipuloituja kuvia ja videoita tunnetuista henkilöistä, kuten Scarlett Johanssonista, Taylor Swiftistä ja muista, usein seksuaalisesti sävyttäen tai harhauttaen. Meta, Instagramin emoyhtiö, vahvisti The Vergelle, että se poisti useita tällaisia tilejä kyselyjen jälkeen, mutta myönsi, että tämän sisällön valvonta on jatkuva haaste.

Meta ottaa käyttöön politiikat esiintymisrikkomusten estämiseen ja vaatii AI-videoiden merkitsemistä, mutta staattiset kuvat on vapautettu AI:n paljastusvelvollisuudesta, mikä rajoittaa läpinäkyvyyttä manipuloidun sisällön osalta. Tämä epäjohdonmukaisuus sallii AI:n luomien kuvien laajan leviämisen ilman, että käyttäjät tietävät niiden olevan muokattuja.

Vertailun vuoksi YouTube käyttää tehokkaampaa henkilön tunnistamista yhteistyössä viihdeteollisuuden kanssa kehitettyä järjestelmää, joka tarkistaa sekä visuaalisen että äänellisen samankaltaisuuden ja ottaa vastaan poistopyyntöjä julkisen edun perusteella. Kuitenkin valtava määrä ja AI-media kehittyvä luonne vaikeuttavat täytäntöönpanoa sosiaalisissa verkostoissa.

Mia Gothin tapaus havainnollistaa laajempia luottamus- ja turvallisuuspuutteita sosiaalisissa medioissa, joissa AI:n tuottama kuvamateriaali voi johtaa käyttäjiä harhaan, levittää vääriä tarinoita arkaluontoisista henkilökohtaisista asioista ja loukata yksilön oikeuksia. Koska kattavaa lainkehystä AI:n kuva-oikeuksille ei ole olemassa, vastuu jää alustojen politiikoille ja teknisille ratkaisuille väärinkäytön rajoittamiseksi.

Kun AI-sisällöntuotantotyökalut tulevat entistä saavutettavammiksi ja kehittyneemmiksi, sosiaalisen median alustat kohtaavat kasvavaa painetta parantaa vahvistusmenetelmiä, sisällön merkitsemistä ja valvontamekanismeja suojellakseen julkisia henkilöitä ja käyttäjiä harhaanjohtavalta ja haitalliselta AI-luodulta medialta.