Meta lanserar avancerad AI för att upptäcka annonser som leder till material om sexuella övergrepp på barn

Bild: TechCrunch · Källa

Meta introducerar nya AI-verktyg, inklusive en stor språkmodell och en red-teaming-agent, för att identifiera annonser som i hemlighet styr användare till innehåll om sexuella övergrepp på barn och förbättra barns säkerhet på sina plattformar.

Meta meddelade betydande framsteg i sitt arbete med att bekämpa innehåll som rör sexuellt utnyttjande av barn på sina plattformar, Facebook och Instagram. Endast under första halvåret 2026 tog Meta bort 33,2 miljoner sådana innehållsdelar, där mer än 97 % upptäcktes av AI-system innan användarrapporter.

Specifikt i Indien togs 5,3 miljoner sådana innehåll bort, med ännu högre upptäcktsnivåer på över 98 % före rapportering.

Som svar på att skadliga aktörer utvecklar nya taktiker rullar Meta ut nya AI-drivna verktyg som är framtagna för att identifiera annonser som ser oskyldiga ut men fungerar som "signposting" — dvs. indirekt vägledning för användare till olagligt material utanför Metas ekosystem. Dessa annonser innehåller inte nödvändigtvis olagligt innehåll själva men fungerar som portaler till material om sexuella övergrepp på barn som finns på andra webbplatser.

En ny stor språkmodell (LLM) har introducerats för att upptäcka dessa subtila former av "signposting" genom att utvärdera inte bara annonsens innehåll utan också vilka destinationer användarna styrs mot. Detta gör att Meta kan blockera sådana webbplatser, agera mot tillhörande konton och stärka tillsynen utöver enbart annonserna själva. Dessutom använder Meta förbättrade AI-genomsökningar för att hitta innehåll som handlar om sexuellt utnyttjande av barn som tidigare verktyg eventuellt missat och uppdaterar kontinuerligt sina upptäcktsindikatorer i takt med att förståelsen av missbruknätverk fördjupas.

Kompletterande till dessa upptäcktsåtgärder finns en "red-teaming AI-agent" som utvecklats för att internt undersöka Metas säkerhetssystem efter svagheter som skadliga aktörer kan utnyttja. Denna proaktiva testningsmekanism syftar till att identifiera nya metoder för övergrepp innan de blir utbredda och därigenom stärka Metas försvar.

Meta förbättrar också identifieringen av användare som försöker kringgå avstängningar genom att öppna nya konton, vilket stärker plattformens integritet.

Dessa åtgärder sammanfaller med ökad granskning av Meta angående barnsäkerhet, inklusive nyliga stämningar och lagstiftningspress. Noterbart är att Meta i augusti gick med på en uppgörelse på upp till 18 miljarder dollar för att ta itu med barns säkerhet över 29 amerikanska delstater.

Under 2026 har Meta lanserat flera funktioner för barns säkerhet, såsom föräldrakontroller för sina AI-verktyg, specialkonton för förtonåringar på WhatsApp, och föräldraalarm kopplade till barns sökningar efter självskadeinnehåll på Instagram.

För att ytterligare stärka säkerheten i meddelandetjänster lanserade WhatsApp nya föräldrakontroller som tillåter begränsningar av tonåringars användning av Kanaler, synlighet av statusuppdateringar, gruppinbjudningar och varningar om specifika gruppaktiviteter.

Tillsammans speglar dessa AI-drivna framsteg och säkerhetsfunktioner Metas pågående engagemang för att upptäcka och förebygga spridningen av material relaterat till sexuella övergrepp på barn och för att skydda unga användare på sina plattformar.