Meta setzt das Teilen von Muse AI Chats nach Entdeckung öffentlich zugänglicher URLs aus

Image: Meta pauses Muse sharing after researchers find AI chats on the web · Source

Meta hat die Funktion zum Teilen von Gesprächen des AI-Assistenten Muse vorübergehend gestoppt, nachdem Sicherheitsforscher Tausende öffentlich zugängliche Chat-Links über DNS-Einträge fanden, was Datenschutzbedenken auslöste.

Meta hat eine Sharing-Funktion seines AI-Assistenten Muse ausgesetzt, nachdem ein Sicherheitsunternehmen entdeckt hatte, dass viele geteilte Konversationslinks öffentlich online zugänglich waren. Claroc, ein Sicherheitsforschungsunternehmen, berichtete, über 6.800 URLs im Zusammenhang mit Muse-Konversationen durch Untersuchung öffentlicher DNS-Einträge, welche als Verzeichnisse des Webverkehrs dienen, gefunden zu haben. Diese Entdeckung deutete darauf hin, dass geteilte Muse-Chat-Seiten leicht von jedermann mit der URL aufgerufen oder durch Rekonstruktion der URL aus DNS-Hostnamen gefunden werden konnten.

Die Sharing-Funktion erlaubt Muse-Nutzern, Links zu ihren AI-Gesprächsfäden zu generieren, damit andere diese einsehen können. Claroc erklärte jedoch, dass Metas Design Gesprächsthemen und eindeutige IDs direkt in die Webadressen integriert, was es einfach macht, URLs auf Basis öffentlich verfügbarer DNS-Informationen vorherzusagen oder aufzulisten. Beispielsweise offenbarte der Hostname im DNS oft schon vor dem Öffnen der Seite den Inhaltstyp, was das Abrufen vertraulicher Informationen erleichterte.

Unter den offengelegten Inhalten waren sensible Materialien wie Einnahmenberichte eines Marketingunternehmens, Details von Kreditanträgen eines Kleinunternehmers, ein vollständiger Jahreskalender des Personals eines Arbeitsplatzes sowie Notizen aus einem Vorstellungsgespräch eines Bewerbers mit einem AI-Forschungslabor. Diese Befunde heben die potenziellen Datenschutzrisiken hervor, wenn Funktionen zum Teilen von AI-Gesprächen keine starken Zugriffskontrollen besitzen.

Tracy Clayton, Sprecherin von Muse, erklärte in einer E-Mail an The Verge, dass Meta diese Sharing-Funktion pausiert hat, um das Problem zu überprüfen und Änderungen zu erwägen, die ein einfaches Auffinden geteilter Links verhindern. Frühere Fälle zeigten ähnliche Bedenken bei Sharing-Funktionen von AI-Chats anderer Anbieter wie OpenAIs ChatGPT, Anthropics Claude und xAIs Grok, bei denen Gespräche unbeabsichtigt in öffentlichen Suchergebnissen erschienen.

Metas Entscheidung, die Share-Links von Muse vorübergehend zu deaktivieren, unterstreicht die Herausforderungen, Benutzerkomfort mit Datenschutz und Datensicherheit bei AI-Assistenten auszubalancieren. Wie Meta die Funktion ändern wird, um Benutzerdaten zu schützen, bleibt abzuwarten, doch der Vorfall betont die Notwendigkeit eines vorsichtigen Designs, bei dem geteilte AI-generierte Inhalte Vertraulichkeit wahren und unbefugten Zugriff über öffentliche Internetdaten verhindern.