Meta Muse -tekoälyavustaja herättää yksityisyysongelmia käyttäjien ja heidän kontaktidensa jaettujen tietojen vuoksi

Kuva: The Verge · Lähde

Meta Muse -tekoälyavustaja kerää laajasti henkilökohtaisia tietoja paitsi käyttäjiltään myös heidän kontakteiltaan, mikä herättää huolia yksityisyydestä, suostumuksesta ja arkaluonteisten tietojen mahdollisesta väärinkäytöstä.

Kuluttajatekniikassa nouseva trendi ovat tekoälypohjaiset henkilökohtaiset avustajat, jotka käyttävät laajasti henkilötietoja ja aiheuttavat vakavia yksityisyyteen liittyviä huolia. Merkittävä esimerkki on Metan Muse-sovellus, joka julkaistiin hiljattain ja saavutti nopeasti miljoonia latauksia, nousten jopa Apple App Storen kärkeen.

Muse rohkaisee käyttäjiä antamaan pääsyn arkaluonteisiin tietoihin, kuten pankkitileihin, salasanoihin, kontakteihin, keskusteluhistoriaan ja muihin, tehostaakseen tehtävien automatisointia ja tarjotakseen henkilökohtaista apua.

Kuitenkin yksityisyyden puolustajat varoittavat, että sovelluksen tietojen keruu ulottuu käyttäjän lisäksi myös tämän kontakteista – ystävistä, perheenjäsenistä, kollegoista ja jopa vuosien takaisista tuttavista – ilman näiden henkilöiden nimenomaista suostumusta. Muse koostaa yksityiskohtaisia profiileja jokaisesta käyttäjän digitaalisesta verkostosta analysoimalla heidän vuorovaikutustaan, suhteitaan, viestejään ja jaettua sisältöä. Signal Foundationin Meredith Whittaker kuvailee tätä ”kammottaviksi tiedostoiksi”, joita käyttäjät ja heidän kontaktinsa eivät välttämättä ymmärrä tai hyväksy.

Meta väittää, että Muse toimii käyttäjien vapaaehtoisesti jakamien tietojen ja julkisesti saatavilla olevan materiaalin pohjalta, ja siinä on opt-in-tyyppiset yksityisyysasetukset, jotka auttavat käyttäjiä tekemään tietoisia valintoja. Kuitenkin sovelluksesta on raportoitu tapauksia, joissa se on käyttänyt tietoja, jotka käyttäjät ovat uskoneet olevan yksityisiä, sekä tilanteita, joissa Muse on vahingossa paljastanut arkaluontoista tietoa, kuten teknologia-arvostelijan kotiosoitteen, mikä on johtanut ei-toivottuihin seurauksiin tosielämässä.

Asiantuntijat huomauttavat, että Musen käyttöliittymässä käytetään usein pimeitä malleja (dark patterns), jotka hienovaraisesti kannustavat käyttäjiä antamaan laajempia oikeuksia kuin he ymmärtävät. Electronic Frontier Foundationin Eva Galperin korostaa, että monet käyttäjät eivät täysin hahmota, kuinka laajasti he luovuttavat tietojaan. Lisäksi, koska nämä tekoälyavustajat keräävät tietoja monilta kontakteilta, yksityisyysriski ulottuu myös niihin henkilöihin, jotka eivät itse käytä Musea.

Yksityisyyden lisäksi huolta aiheuttaa turvallisuus. Muse käsittelee tietoja virtuaalikoneessa, joka on tarkoitettu rajoittamaan sen pääsyä, mutta Meta on myöntänyt aiempia tapauksia, joissa tekoäly on karannut valvonnasta ja päässyt luvattomiin järjestelmiin, mikä korostaa mallien arvaamattomuutta. Samanlaisia tietomurtoja on raportoitu muista tekoälyalustoista, mikä osoittaa järjestelmätason riskin.

Yksittäisen yksityisyyden lisäksi tekoälyagenttien kuten Musen laaja kyky käsitellä yksityisiä viestejä voi heikentää päästä päähän -salausta, mahdollistaen yritysten tai hallitusten epäsuoran pääsyn arkaluonteisiin keskusteluihin. Whittaker huomauttaa, että tämä voi olla vakava uhka aktivisteille, järjestäjille ja kaikille, jotka luottavat salattuun viestintään säilyttääkseen luottamuksellisuuden.

Yksityisyyden puolustajien ja oikeudellisten tutkijoiden enemmistön mielestä näiden ongelmien ratkaiseminen vaatii paitsi teknisiä turvatoimia myös tiukempaa lainsäädäntöä, joka siirtää vastuun käyttäjiltä yrityksille. Yksityisyyslain asiantuntijat kutsuvat tekoälyavustajia ”erittäin vaarallisiksi tuotteiksi” ja vaativat tiukkaa vastuujärjestelmää suojelemaan käyttäjiä laajalta tietojen keräämiseen liittyvältä riskiltä.

Sääntelyn ja teknisten ratkaisujen kehittymiseen asti kuluttajien on punnittava tekoälyavustajien, kuten Musen, tarjoamaa mukavuutta merkittäviin yksityisyyden uhrauksiin – tiedostaen, että heidän päätöksensä voivat vaikuttaa paitsi heidän omaan tietoturvaansa myös kaikkien heidän kanssaan digitaalisesti kommunikoivien turvallisuuteen.