Forscher enthüllen neue KI-Angriffsmethode, die Bildfilter von OpenAI und Google leicht umgeht, um explizite Inhalte zu erzeugen

Image: Ars Technica · Source

Forscher von White Circle entdeckten eine neue Angriffstechnik, die Sicherheitsfilter in den neuesten KI-Bildmodellen von OpenAI und Google umgeht und die Erzeugung expliziter Inhalte ohne fortgeschrittenes KI-Wissen ermöglicht.

Sicherheitsforscher von White Circle, einer gemeinnützigen Organisation unterstützt von KI-Industrieexperten, haben erhebliche Schwachstellen in der Inhaltsfilterung der neuesten Text-zu-Bild-KI-Modelle von OpenAI und Google aufgedeckt. Ihre Forschung zeigt, dass eine neue und überraschend einfache Angriffsmethode bestehende Schutzmaßnahmen umgehen kann und dabei in etwa 13 % der Fälle explizite Bilder generiert, ohne dass maßgeschneiderte KI-Modelle oder technisches Fachwissen erforderlich sind.

Getestete Modelle umfassen OpenAIs GPT-Image-2 und ChatGPT Images 2.5 sowie Googles DALL·E 3, Nano Banana 2 und das aktualisierte Nano Banana 2.1. Die Methode von White Circle, genannt „Red-teaming via Iterative Strategy Evolution“ (RISE), nutzt allgemein verfügbare KI-Modelle, um Jailbreak-Aufforderungen zu generieren und zu prüfen, die verlässlich verbotene Inhalte produzieren. Diese Technik zeigt auf, dass aktuelle Verteidigungen, die von führenden KI-Labors als robust dargestellt werden, schwächer sind als öffentlich angenommen.

Denis Shilov, CEO von White Circle, erklärte, dass ihre Erkenntnisse angesichts des gestiegenen öffentlichen Interesses an KI-Sicherheit „erschreckend“ seien. Er vermutet, dass die Verschlechterung der Filterwirkung darauf zurückzuführen ist, dass Modellfähigkeiten über Sicherheit priorisiert wurden. Trotz der Weitergabe dieser Ergebnisse über einige interne Industriekreise haben weder OpenAI noch Google auf direkte Anfragen zu den neu identifizierten Schwachstellen reagiert.

Die Auswirkungen sind erheblich, insbesondere angesichts des zunehmenden Vorkommens KI-generierter nicht einvernehmlicher intimer Bilder und von material zum sexuellen Missbrauch von Kindern (CSAM). Die britische Internet Watch Foundation berichtete Anfang 2026 von einem besorgniserregenden Anstieg photorealistischer, KI-erzeugter CSAM. Gleichzeitig fand eine eigene Studie von Google heraus, dass viele Nutzer KI-generierte Nacktbilder eher beiläufig erzeugen, was die Bedeutung starker modellbasierter Schutzmaßnahmen unterstreicht.

White Circle plädiert für verpflichtende unabhängige Sicherheitsprüfungen durch Dritte bei KI-Modellen und argumentiert, dass die derzeitigen Selbsteinschätzungen der KI-Labore unzureichend sind. Sie planen, ihre gesamte Angriffspipeline als Open Source bereitzustellen, um Entwicklern zu helfen, diese Risiken besser zu verstehen und zu mindern. Die Forscher schlagen zudem vor, Methoden wie RISE auch zur Erkennung und Verhinderung weiterer schädlicher KI-Ausgaben, etwa gewalttätiger Bilder, zu nutzen.

Jedoch besteht in der Branche Widerstand, wobei einige Unternehmen restriktive Geheimhaltungsvereinbarungen bevorzugen, die die öffentliche Transparenz zu Sicherheitstests einschränken. White Circle lehnt solche Beschränkungen ab und betont, dass die öffentliche Weitergabe kritischer Erkenntnisse wesentlich zur Verbesserung der KI-Sicherheitsstandards ist.

Mit zunehmender Komplexität der KI-Modelle werden umfassende externe Bewertungen und verstärkte Investitionen in Sicherheit immer wichtiger, um Missbrauch und die Verbreitung schädlicher synthetischer Inhalte zu verhindern. Die Arbeit von White Circle lenkt den Fokus auf den dringenden Bedarf an stärkeren, unabhängig verifizierten Schutzmaßnahmen im sich schnell entwickelnden KI-Umfeld.