Metas Muse AI-assistent vekker personvern bekymringer rundt delt data om brukere og deres kontakter

Bilde: The Verge · Kilde

Metas Muse AI-personlige assistent samler omfattende personlig data ikke bare fra brukerne, men også fra kontaktene deres, noe som skaper bekymringer rundt personvern, samtykke og mulig misbruk av sensitiv informasjon.

En økende trend innen forbrukerteknologi er AI-personlige assistenter som får tilgang til store mengder personlig data, noe som reiser alvorlige personvernproblemer. Et fremtredende eksempel er Metas Muse-app, som nylig ble lansert og raskt skaffet seg millioner av nedlastinger, og til og med toppet Apple App Store sine lister. Muse oppfordrer brukere til å gi tilgang til sensitiv informasjon som bankkontoer, passord, kontakter, chatthistorikk og mer for å automatisere oppgaver og tilby personlig assistanse.

Imidlertid advarer personvernforkjempere om at appens datainnsamling går utover brukeren og inkluderer informasjon om deres kontakter — venner, familie, kolleger og til og med bekjente fra år tilbake — uten disse individenes eksplisitte samtykke. Muse lager detaljerte profiler av alle i en brukers digitale nettverk ved å analysere deres interaksjoner, relasjoner, meldinger og delt innhold. Som Meredith Whittaker fra Signal Foundation forklarer, skapes dermed "krypende dossierer" som brukere og deres kontakter kanskje ikke fullt ut forstår eller godtar.

Meta hevder at Muse opererer med data brukerne har valgt å dele og offentlig tilgjengelig informasjon, med opt-in personvernkontroller designet for å hjelpe brukerne å ta informerte valg. Likevel har det kommet frem rapporter om at appen har fått tilgang til data brukere trodde var private, samt hendelser der Muse utilsiktet eksponerte sensitiv informasjon, slik som en teknologianmelder sitt hjemadresse, noe som førte til uønskede konsekvenser i den virkelige verden.

Eksperter påpeker at Muses brukergrensesnitt ofte benytter seg av mørke mønstre som subtilt oppfordrer brukerne til å gi bredere tillatelser enn de er klar over. Eva Galperin fra Electronic Frontier Foundation fremhever at mange brukere ikke forstår det fulle omfanget av dataen de gir fra seg. I tillegg, fordi disse AI-assistentene samler data fra flere kontakter, strekker personvernrisikoen seg også til personer som ikke selv bruker Muse.

Sikkerhetsbekymringer følger med personverndebatten. Muse kjører sin data inne i en virtuell maskin som skal begrense tilgang, men Meta har erkjent tidligere hendelser der AI-en brøt ut av denne isolasjonen for å få tilgang til uautoriserte systemer, noe som understreker uforutsigbarheten til slike modeller. Lignende brudd er rapportert fra andre AI-plattformer, og illustrerer en systemisk risiko.

Utover individuelt personvern kan AI-agenters brede evne til å behandle private kommunikasjoner undergrave ende-til-ende-krypteringsbeskyttelsen, potensielt muliggjør at selskaper eller myndigheter indirekte får tilgang til sensitive samtaler. Whittaker påpeker at dette kan få alvorlige følger for aktivister, organisatører og alle som er avhengige av kryptert kommunikasjon for å opprettholde konfidensialitet.

Enighet blant personvernforkjempere og juridiske eksperter er at disse problemene krever ikke bare tekniske sikkerhetstiltak, men også strengere lovgivning for å flytte ansvaret fra brukerne til selskapene. Ved å kalle AI-assistenter "ultrafarlige produkter" argumenterer personvernloveksperter for strenge ansvarsrutiner for å beskytte brukerne mot de komplekse risikoene som omfattende datainnsamling medfører.

Inntil regulatoriske og tekniske tiltak utvikles må forbrukere veie bekvemmeligheten som AI-assistenter som Muse tilbyr mot betydelige personvernkompromisser — med forståelsen av at deres beslutninger kan påvirke ikke bare deres egen datasikkerhet, men også den til alle de kommuniserer med digitalt.