AI

Asystent AI Muse firmy Meta miesza dane użytkowników i narusza prywatność, twierdzą pracownicy

Tendela Briefing ·
3 odsłon · 0 Komentarze
Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says | TechCrunch

Image: TechCrunch · Source

Asystent AI Muse firmy Meta przypadkowo łączy rozmowy i ujawnia nieprawidłowe dane prywatne, takie jak informacje bankowe i wiadomości osobiste, co wywołuje wewnętrzne obawy dotyczące prywatności.

Agent AI firmy Meta o nazwie Muse, wprowadzony na rynek we wrześniu i szybko zdobywający popularność z ponad 10 milionami pobrań, znalazł się pod lupą po zgłoszeniach pracowników dotyczących poważnych problemów z prywatnością. Według śledztwa Reuters opartego na wewnętrznych postach firmy, zaobserwowano, że Muse myli rozmowy między różnymi kontami użytkowników i ujawnia prywatne dane, które nie należą do danego użytkownika.

Pracownicy zgłaszali przypadki, gdy Muse wyświetlał niepowiązane informacje, takie jak żądania opieki nad dzieckiem, których nigdy nie składali, niechciane porady zawodowe, zamówienia produktów, których nie złożyli, a nawet salda rachunków bankowych należących do innych osób. Jeden z przykładów dotyczył niespodziewanej wiadomości w czacie o pogodzie i pływach, która zawierała konkretne aktualizacje sald bankowych dla dwóch różnych instytucji finansowych. Inna pracownica zauważyła, że Muse wysłał przypomnienie o wiadomości od jej siostry na Signal, osobnej zaszyfrowanej aplikacji do przesyłania wiadomości, mimo braku uprawnień do dostępu do tej aplikacji.

Tego rodzaju incydenty wywołały poważne obawy dotyczące prywatności użytkowników i bezpieczeństwa danych w firmie. Rzecznik Meta podkreślił rolę testów prowadzonych przez pracowników w procesie rozwoju produktu, twierdząc, że wersje Muse testowane wewnętrznie często zawierają funkcje i zachowania niedostępne jeszcze dla szerszej publiczności. Proces testowania ma na celu zbieranie opinii w celu poprawy ochrony bezpieczeństwa i prywatności przed szerszym wdrożeniem.

Mimo rosnącej popularności Muse, raporty te uwypuklają wyzwania związane z wdrażaniem asystentów AI, którzy operują wrażliwymi informacjami osobistymi na różnych platformach. Meta stoi przed zadaniem zapewnienia, że Muse będzie dostarczać użyteczną pomoc bez naruszania poufności użytkowników ani mieszania danych pomiędzy kontami. Firma nie ujawniła szczegółowych przyczyn technicznych tych pomyłek z danymi, ale przyznała konieczność wzmocnienia kontroli.

W miarę jak agenci AI, tacy jak Muse, stają się obecni w codziennej komunikacji, takie incydenty podkreślają znaczenie rygorystycznych zabezpieczeń prywatności oraz przejrzystości w kwestii wykorzystania danych, szczególnie w fazach testów rozwojowych. Użytkownicy i pracownicy będą uważnie obserwować, jak Meta rozwiąże te luki, by przywrócić zaufanie do sposobu, w jaki ich asystent AI zarządza prywatnymi danymi.

Źródła i oryginalne doniesienia

Komentarze (0)

Nie ma jeszcze komentarzy.

Napisz komentarz

Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto