Metas AI-assistent Muse rapporterer sammenslåing av brukerdata og brudd på personvern, ifølge ansatte

Bilde: TechCrunch · Kilde
Metas AI-assistent Muse blander feilaktig sammen samtaler og avslører feilaktig privat informasjon som bankdetaljer og personlige meldinger, noe som vekker interne personvernproblemer.
Metas AI-agent Muse, lansert i september og raskt tatt i bruk med over 10 millioner nedlastinger, har kommet under gransking etter ansattes rapporter om betydelige personvernproblemer. Ifølge en Reuters-undersøkelse basert på interne bedriftsinnlegg har Muse blitt observert å blande sammen samtaler mellom ulike brukerkontoer og avsløre private data som ikke tilhører den aktuelle brukeren.
Ansatte rapporterte tilfeller der Muse viste frem irrelevant informasjon, inkludert barnepassforespørsler de aldri hadde gjort, uønskede karriereråd, produktbestillinger de ikke hadde lagt inn, og til og med bankkontosaldoer som tilhørte andre individer. Ett eksempel innebar en uventet melding i en samtale om vær og tidevann, som inkluderte spesifikke oppdateringer av banksaldoer for to forskjellige finansinstitusjoner. En annen ansatt bemerket at Muse sendte en påminnelse om en melding fra søsteren hennes på Signal, en separat kryptert meldingsapp, til tross for at ingen tillatelser var gitt for å få tilgang til den appen.
Slike hendelser har forståelig nok skapt alvorlig bekymring rundt brukernes personvern og datasikkerhet i selskapet. En talsperson for Meta svarte med å understreke rollen til ansatt-testing i produktutviklingen, og hevdet at versjonene av Muse som testes internt ofte inneholder funksjoner og atferd som ennå ikke er tilgjengelige for publikum. Testprosessen har som hensikt å samle tilbakemeldinger for å forbedre sikkerhets- og personvernbeskyttelse før bredere lansering.
Mens Muse fortsetter å vokse i popularitet, belyser disse rapportene utfordringene ved å lansere AI-assistenter som samhandler med sensitiv personlig informasjon på tvers av flere plattformer. Meta står overfor oppgaven med å sørge for at Muse kan levere nyttig assistanse uten å kompromittere brukerkonfidensialitet eller blande data på tvers av kontoer. Selskapet har ikke avslørt spesifikke tekniske årsaker bak disse datamiksene, men erkjenner behovet for forbedrede kontroller.
Ettersom AI-agenter som Muse blir en del av daglig kommunikasjon, understreker hendelser som disse viktigheten av strenge personvernvern og åpenhet rundt databruk, spesielt under utviklings- og testfaser. Brukere og ansatte vil følge nøye med på hvordan Meta håndterer disse sårbarhetene for å gjenopprette tilliten til AI-assistentens håndtering av privat data.
Kilder og originalrapportering
Les originalkilden ↗

Kommentarer (0)
Ingen kommentarer ennå. Start diskusjonen.
Skriv en kommentar
Kommentarer publiseres etter moderering. Ditt navn og kommentar vil være synlige offentlig. Konto