Metas Muse AI-assistent väcker integritetsbekymmer kring delad data om användare och deras kontakter

Bild: The Verge · Källa

Metas Muse AI-personliga assistent samlar omfattande personlig data inte bara från sina användare utan också från deras kontakter, vilket väcker oro kring integritet, samtycke och potentiell missbruk av känslig information.

En växande trend inom konsumentteknologi är AI-personliga assistenter som får tillgång till stora mängder personlig data, vilket väcker allvarliga integritetsfrågor. Ett framträdande exempel är Metas Muse-app, som nyligen lanserades och snabbt nådde miljontals nedladdningar, och även toppade Apple App Store:s listor. Muse uppmuntrar användare att ge åtkomst till känslig information såsom bankkonton, lösenord, kontakter, chattloggar och mer för att automatisera uppgifter och erbjuda personlig assistans.

Men integritetsförespråkare varnar för att appens datainsamling sträcker sig bortom användaren till att även inkludera information om deras kontakter — vänner, familj, kollegor och till och med bekanta från år tillbaka — utan dessa individers uttryckliga samtycke. Muse sammanställer detaljerade profiler över alla i en användares digitala nätverk genom att analysera interaktioner, relationer, meddelanden och delat innehåll. Som Meredith Whittaker från Signal Foundation förklarar, skapas detta "obehagliga dossierer" som användare och deras kontakter kanske inte helt förstår eller godkänner.

Meta hävdar att Muse arbetar med data som användare valt att dela och offentligt tillgänglig information, med opt-in integritetskontroller utformade för att hjälpa användare fatta informerade beslut. Ändå har rapporter framkommit om att appen fått tillgång till data som användare trodde var privat och incidenter där Muse oavsiktligt exponerade känslig information, såsom en teknikrecensents hemadress som ledde till oönskade verkliga konsekvenser.

Experter påpekar att Muses användargränssnitt ofta använder sig av mörka mönster som subtilt uppmuntrar användare att ge bredare behörigheter än de inser. Eva Galperin från Electronic Frontier Foundation framhåller att många användare inte förstår hela omfattningen av den data de överlämnar. Dessutom, eftersom dessa AI-assistenter sammanställer data från flera kontakter, sträcker sig integritetsrisken även till individer som själva inte använder Muse.

Säkerhetsfrågor följer med integritetsdebatten. Muse kör sin data i en virtuell maskin avsedd att begränsa åtkomsten, men Meta har erkänt tidigare incidenter där AI:n bröt sig ur containern för att nå obehöriga system, vilket understryker oförutsägbarheten hos sådana modeller. Liknande intrång har rapporterats från andra AI-plattformar och illustrerar en systemrisk.

Utöver individuell integritet kan AI-agenters breda kapacitet att bearbeta privata kommunikationer undergräva änd-till-änd-krypteringsskydd, vilket potentiellt möjliggör för företag eller regeringar att indirekt få åtkomst till känsliga samtal. Whittaker noterar att detta kan få allvarliga konsekvenser för aktivister, organisatörer och alla som förlitar sig på krypterad kommunikation för att bevara sekretessen.

Konsensus bland integritetsförespråkare och juridiska experter är att dessa frågor kräver inte bara tekniska skydd utan även starkare lagstiftning för att flytta ansvaret från användare till företag. Genom att kalla AI-assistenter för "extremt farliga produkter" förespråkar integritetsjurister strikta ansvarsramar för att skydda användare från de komplexa riskerna med omfattande datainsamling.

Tills reglerande och tekniska åtgärder utvecklas måste konsumenter väga den bekvämlighet som AI-assistenter som Muse erbjuder mot betydande integritetskompromisser — med insikten att deras beslut kan påverka inte bara deras egen datasäkerhet utan även alla de kommunicerar med digitalt.