Verifizierte KI-Deepfake-Bilder von Prominenten auf Instagram heben Plattformrisiken hervor

Image: Illustrative image · Instagram · Public domain · Source

KI-generierte Bilder von Prominenten mit verifizierten Instagram-Konten werden immer weitverbreiteter, was Bedenken hinsichtlich Identitätsfälschung, irreführenden Inhalten und Plattform-Sicherheitsmaßnahmen aufwirft.

Ein kürzlich auf Instagram aufgetretenes Ereignis offenbarte erhebliche Herausforderungen, die durch KI-generierte Deepfake-Bilder von Prominenten auf sozialen Medienplattformen entstehen. Ein Instagram-Account @miagoth_, gekennzeichnet mit einem blauen Verifizierungs-Häkchen und mit der Behauptung, die Schauspielerin Mia Goth zu sein, postete ein KI-generiertes Bild der Schauspielerin, das sie mit einem T-Shirt zeigt, auf dem „MY EX IS MY BIGGEST FAN“ steht, kurz nachdem sie die Scheidung vom Schauspieler Shia LaBeouf eingereicht hatte. Begleitet wurde der Beitrag vom Lied „Single Ladies (Put a Ring on It)“ von Beyoncé und erzielte fast 500.000 Likes, darunter auch von Kollegen aus der Unterhaltungsbranche, obwohl der Account eine Fan-Seite und nicht authentisch war.

Der Vertreter von Goth bestätigte gegenüber The Verge, dass sie den Account zuvor bei Instagram gemeldet hatten, weil dieser gefälschte KI-Bilder publizierte. Dennoch erlaubte das Instagram-System der Fan-Seite, den Verifizierungsstatus zu erlangen, eine Entscheidung, die der Sprecher von Goth als „beunruhigend“ bezeichnete und die Plattform kritisierte, weil sie manipulierte Bilder über den Schutz der Persönlichkeitsrechte von öffentlichen Personen stellte.

Dieses virale KI-Bild verbreitete sich nicht nur auf Instagram, sondern fand auch Eingang in Promi-Klatschmedien und erschien prominent in Google-Suchergebnissen, wodurch es irreführend als authentischer Kommentar zu Goths Scheidung dargestellt wurde. Instagram entfernte den betrügerischen Account schließlich wegen Identitätsfälschung einer öffentlichen Person.

Die Verbreitung KI-generierter Deepfake-Bilder von Prominenten reicht über diesen Fall hinaus, mit zahlreichen Instagram-Accounts, die manipulierte Bilder und Videos bekannter Persönlichkeiten wie Scarlett Johansson, Taylor Swift und anderen produzieren – oft sexualisiert oder irreführend. Meta, die Muttergesellschaft von Instagram, bestätigte gegenüber The Verge, dass mehrere solcher Accounts nach Anfragen entfernt wurden, räumte jedoch fortbestehende Herausforderungen bei der Überwachung dieses Inhalts ein.

Meta durchsetzt Richtlinien gegen Identitätsfälschung und verlangt, dass KI-generierte Videos gekennzeichnet werden, doch Standbilder sind von KI-Offenlegungsanforderungen ausgenommen, was die Transparenz über manipulierte Inhalte einschränkt. Diese Inkonsistenz erlaubt es, KI-generierte Bilder weit verbreitet zu verbreiten, ohne dass Nutzer dies eindeutig erkennen können.

Im Vergleich zu anderen Plattformen verwendet YouTube ein robusteres System zur Erkennung von Persönlichkeitsbildern, das in Zusammenarbeit mit der Unterhaltungsbranche entwickelt wurde. Es scannt sowohl visuelle als auch auditiv ähnliche Inhalte und berücksichtigt Löschanfragen unter Berücksichtigung des öffentlichen Interesses. Dennoch erschweren die große Menge und die sich wandelnde Natur der KI-generierten Medien die Durchsetzung der Regeln in sozialen Netzwerken.

Der Fall Mia Goth verdeutlicht grundlegende Versäumnisse bei Vertrauens- und Sicherheitsmaßnahmen in sozialen Medien, wo KI-generierte Bilder Nutzer irreführen, falsche Narrative zu sensiblen persönlichen Angelegenheiten verbreiten und individuelle Rechte verletzen können. Da es keinen umfassenden, universellen Rechtsrahmen für KI-Persönlichkeitsrechte gibt, liegt die Verantwortung bei den Plattformrichtlinien und technologischen Lösungen, um Missbrauch zu mildern.

Da KI-Content-Generierungstools zugänglicher und fortschrittlicher werden, stehen soziale Medienplattformen unter zunehmendem Druck, Verifizierungs-, Inhaltskennzeichnungs- und Durchsetzungsmechanismen zu verbessern, um öffentliche Persönlichkeiten und Nutzer vor irreführenden und schädlichen durch KI erstellten Medien zu schützen.