AI

Metas AI-assistent Muse rapporterar sammanblandning av användardata och kränkning av integriteten, enligt anställda

Tendela Briefing ·
3 visningar · 0 Kommentarer
Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says | TechCrunch

Bild: TechCrunch · Källa

Metas AI-assistent Muse kombinerar felaktigt konversationer och avslöjar felaktig privat information såsom bankuppgifter och personliga meddelanden, vilket väcker interna integritetsbekymmer.

Metas AI-agent Muse, som lanserades i september och snabbt har laddats ner över 10 miljoner gånger, har hamnat under granskning efter anställdas rapporter om allvarliga integritetsproblem. Enligt en Reuters-undersökning baserad på interna företagsinlägg har Muse observerats blanda ihop konversationer mellan olika användarkonton och avslöja privata uppgifter som inte tillhör den aktuella användaren.

Anställda rapporterade fall där Muse visade orelaterad information, inklusive barnomsörjningsförfrågningar som de aldrig gjort, oönskade karriärråd, produktbeställningar som de inte lagt och till och med bankkontosaldon som tillhör andra individer. Ett exempel var ett oväntat meddelande i en chatt om väder och tidvatten som innehöll specifika uppdateringar av banksaldon för två olika finansiella institutioner. En annan anställd noterade att Muse skickade en påminnelse om ett meddelande från hennes syster på Signal, en separat krypterad meddelandeapp, trots att ingen åtkomst till den appen hade beviljats.

Sådana incidenter har förståeligt nog väckt allvarliga oro över användarnas integritet och datasäkerhet inom företaget. En talesperson för Meta svarade med att understryka rollen av medarbetartestning i produktutvecklingen och försäkrade att de versioner av Muse som testas internt ofta innehåller funktioner och beteenden som ännu inte är tillgängliga för allmänheten. Testningsprocessen är avsedd för att samla in feedback för att förbättra säkerhets- och integritetsskydd innan en bredare lansering.

Medan Muse fortsätter växa i popularitet belyser dessa rapporter utmaningarna med att implementera AI-assistenter som interagerar med känslig personlig information över flera plattformar. Meta har uppgiften att säkerställa att Muse kan erbjuda användbar hjälp utan att kompromissa med användarnas sekretess eller blanda data mellan konton. Företaget har inte offentliggjort specifika tekniska orsaker bakom dessa datamissar men erkänner behovet av förbättrade kontroller.

När AI-agenter som Muse blir en del av vardagskommunikationen understryker incidenter som dessa vikten av strikta integritetsskydd och transparens kring dataanvändning, särskilt under utvecklingens testfaser. Både användare och anställda kommer att följa noga hur Meta hanterar dessa sårbarheter för att återupprätta förtroendet för deras AI-assistents hantering av privat data.

Källor och ursprunglig rapportering

Kommentarer (0)

Inga kommentarer ännu. Börja diskussionen.

Skriv en kommentar

Kommentarer publiceras efter granskning. Ditt namn och kommentar syns offentligt. Konto