Meta startet fortschrittliche KI zur Erkennung von Anzeigen, die zu Material über sexuellen Kindesmissbrauch führen

Image: TechCrunch · Source

Meta führt neue KI-Tools ein, darunter ein großes Sprachmodell und einen Red-Teaming-Agenten, um Anzeigen zu identifizieren, die Nutzer heimlich zu Inhalten über sexuellen Kindesmissbrauch leiten, und die Kindersicherheit auf seinen Plattformen zu verbessern.

Meta gab bedeutende Fortschritte in seinem Ansatz zur Bekämpfung von Inhalten sexueller Ausbeutung von Kindern auf seinen Plattformen Facebook und Instagram bekannt. Allein in der ersten Hälfte des Jahres 2026 ergriff Meta Maßnahmen gegen 33,2 Millionen solcher Inhalte, wobei mehr als 97 % davon durch KI-Systeme erkannt wurden, bevor Nutzer sie meldeten. Speziell in Indien wurden 5,3 Millionen Inhalte entfernt, mit einer Erkennungsrate von über 98 % vor Meldungen.

Als Reaktion auf sich wandelnde Taktiken böswilliger Akteure führt Meta neue KI-basierte Werkzeuge ein, die darauf ausgelegt sind, Anzeigen zu identifizieren, die harmlos erscheinen, aber als "Wegweiser" fungieren – sie leiten Nutzer indirekt zu illegalen Inhalten außerhalb des Meta-Ökosystems. Diese Anzeigen enthalten nicht unbedingt selbst illegale Inhalte, dienen aber als Zugänge zu Material über sexuellen Kindesmissbrauch, das anderswo im Internet gehostet wird.

Ein neues großes Sprachmodell (LLM) wurde eingeführt, um diese subtilen Formen der Wegweisung zu erkennen, indem nicht nur der Anzeigeninhalt, sondern auch die Ziele, zu denen Nutzer geleitet werden, bewertet werden. Dies ermöglicht es Meta, solche Webseiten zu blockieren, gegen zugehörige Konten vorzugehen und die Durchsetzung über die Anzeigen hinaus zu verschärfen. Zusätzlich setzt Meta erweiterte KI-Scans ein, um Inhalte zur Ausbeutung von Kindern zu entdecken, die frühere Werkzeuge möglicherweise übersehen haben, und aktualisiert kontinuierlich Erkennungssignale, während das Verständnis der missbräuchlichen Netzwerke vertieft wird.

Ergänzend zu diesen Erkennungsmaßnahmen wurde ein "Red-Teaming-KI-Agent" entwickelt, der intern Metas Sicherheitssysteme auf Schwachstellen prüft, die von Tätern ausgenutzt werden könnten. Dieses proaktive Testverfahren zielt darauf ab, neue Missbrauchsmethoden zu erkennen, bevor sie weit verbreitet sind, und stärkt die Abwehrfähigkeit von Meta.

Meta verbessert zudem die Identifikation von Nutzern, die versuchen, Sperren zu umgehen, indem sie neue Konten eröffnen, und erhöht so die Integrität der Plattform.

Diese Maßnahmen fallen zusammen mit einer verstärkten Prüfung von Meta in Bezug auf Kindersicherheit, inklusive kürzlicher Klagen und gesetzgeberischem Druck. Bemerkenswert ist, dass Meta im August einer Einigung von bis zu 18 Milliarden US-Dollar zustimmte, um Kindersicherheitsbedenken in 29 US-Bundesstaaten zu adressieren. Im Laufe des Jahres 2026 führte Meta verschiedene Kindersicherheitsfunktionen ein, wie z. B. elterliche Kontrollmöglichkeiten für KI-Werkzeuge, spezialisierte Konten für Kinder im Vorpubertätsalter bei WhatsApp und elterliche Warnungen bei Kindersuchen nach selbstverletzendem Verhalten auf Instagram.

Weiterhin verbesserte WhatsApp die Sicherheit in Messaging-Diensten durch neue elterliche Kontrolleinstellungen, die Einschränkungen der Nutzung von Kanälen durch Teenager, Sichtbarkeit von Status-Updates, Gruppeneinladungen und Benachrichtigungen über spezifische Gruppenaktivitäten erlauben.

Diese KI-basierten Fortschritte und Sicherheitsfunktionen spiegeln Metas fortwährendes Engagement wider, die Verbreitung von Material über sexuellen Kindesmissbrauch zu erkennen und zu verhindern sowie junge Nutzer auf seinen Plattformen zu schützen.