KI

Metas KI-Assistent Muse berichtet über Vermischung von Nutzerdaten und Datenschutzverletzungen, sagen Mitarbeiter

Tendela Briefing ·
3 Aufrufe · 0 Kommentare
Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says | TechCrunch

Image: TechCrunch · Source

Der KI-Assistent Muse von Meta vermischt irrtümlich Gespräche und offenbart falsche private Informationen wie Bankdaten und persönliche Nachrichten, was interne Datenschutzbedenken aufwirft.

Der KI-Agent Muse von Meta, der im September gestartet wurde und schnell über 10 Millionen Downloads erreichte, steht nach Berichten von Mitarbeitern über erhebliche Datenschutzprobleme unter Beobachtung. Laut einer Untersuchung von Reuters, die auf internen Unternehmensbeiträgen basiert, wurde beobachtet, dass Muse Gespräche zwischen verschiedenen Nutzerkonten vermischt und private Daten preisgibt, die nicht zum betreffenden Nutzer gehören.

Mitarbeiter berichteten von Fällen, in denen Muse nicht zusammenhängende Informationen präsentierte, darunter unbeauftragte Anfragen zur Kinderbetreuung, unaufgeforderte Karriereempfehlungen, Bestellungen für Produkte, die sie nicht getätigt hatten, und sogar Bankkontostände von anderen Personen. Ein Beispiel betraf eine unerwartete Nachricht in einem Chat über Wetter und Gezeiten, die spezifische Updates zu Kontoständen für zwei verschiedene Finanzinstitute enthielt. Eine weitere Mitarbeiterin stellte fest, dass Muse eine Erinnerung an eine Nachricht ihrer Schwester in Signal, einer separaten verschlüsselten Messaging-App, schickte, obwohl keine Berechtigungen für den Zugriff auf diese App vorlagen.

Solche Vorfälle haben verständlicherweise ernste Bedenken hinsichtlich des Datenschutzes und der Datensicherheit innerhalb des Unternehmens ausgelöst. Ein Sprecher von Meta betonte die Rolle von Mitarbeitertests bei der Produktentwicklung und erklärte, dass die intern getesteten Muse-Versionen oft Funktionen und Verhaltensweisen enthalten, die der Öffentlichkeit noch nicht zugänglich sind. Der Testprozess soll Feedback sammeln, um Sicherheit und Datenschutz vor der breiteren Veröffentlichung zu verbessern.

Während Muse weiter an Beliebtheit gewinnt, verdeutlichen diese Berichte die Herausforderungen beim Einsatz von KI-Assistenten, die mit sensiblen persönlichen Informationen über mehrere Plattformen hinweg interagieren. Meta steht vor der Aufgabe sicherzustellen, dass Muse nützliche Unterstützung bietet, ohne die Vertraulichkeit der Nutzer zu gefährden oder Daten zwischen Konten zu vermischen. Das Unternehmen hat keine spezifischen technischen Ursachen für diese Datenvermischungen offenbart, erkennt aber den Bedarf an verbesserten Kontrollen an.

Da KI-Agenten wie Muse zunehmend im Alltag verankert werden, unterstreichen solche Vorfälle die Bedeutung strenger Datenschutzmaßnahmen und Transparenz über die Datennutzung, besonders während der Entwicklungs- und Testphasen. Nutzer und Mitarbeiter werden genau beobachten, wie Meta diese Schwachstellen angeht, um das Vertrauen in den Umgang des KI-Assistenten mit privaten Daten wiederherzustellen.

Quellen und Originalberichte

Kommentare (0)

Noch keine Kommentare.

Kommentar schreiben

Kommentare erscheinen nach Moderation. Name und Kommentar werden öffentlich angezeigt. Konto