Meta lanserer avansert AI for å oppdage annonser som leder til materiale om seksuelt misbruk av barn

Bilde: TechCrunch · Kilde

Meta introduserer nye AI-verktøy, inkludert en stor språkmodell og en red-teaming-agent, for å identifisere annonser som skjult leder brukere til materiale om seksuelt misbruk av barn og forbedre barns sikkerhet på sine plattformer.

Meta kunngjorde betydelige fremskritt i sin tilnærming til å bekjempe innhold knyttet til seksuell utnyttelse av barn på sine plattformer, Facebook og Instagram. Bare i første halvår av 2026 tok Meta affære mot 33,2 millioner slike innholdselementer, hvor mer enn 97 % ble oppdaget av AI-systemer før brukerrapportering.

Spesielt i India ble 5,3 millioner slike elementer fjernet, med enda høyere oppdagelsesrate på over 98 % før rapportering.

Som respons på at onde aktører benytter nye taktikker, ruller Meta ut nye AI-drevne verktøy designet for å identifisere annonser som virker uskyldige, men som fungerer som "signposting" — indirekte veiledning til ulovlig materiale utenfor Metas økosystem. Disse annonsene inneholder ikke nødvendigvis ulovlig innhold selv, men fungerer som inngangsporter til materiale om seksuelt misbruk av barn som befinner seg på andre nettsteder.

En ny stor språkmodell (LLM) er introdusert for å oppdage disse subtile formene for signposting ved å vurdere ikke bare annonseinnholdet, men også destinasjonene brukerne blir ledet til. Dette gjør at Meta kan blokkere slike nettsteder, handle mot tilknyttede kontoer og skjerpe håndhevelsen utover bare annonsene. I tillegg deployerer Meta forbedrede AI-skanninger for å avdekke innhold om seksuell utnyttelse av barn som tidligere verktøy kan ha gått glipp av, og oppdaterer kontinuerlig deteksjonssignaler etter hvert som forståelsen av misbruksnettverk øker.

Som et supplement til disse deteksjonstiltakene finnes en "red-teaming AI-agent" utviklet for å internt teste Metas sikkerhetssystemer for sårbarheter som onde aktører kan utnytte. Denne proaktive testmekanismen har som mål å identifisere nye former for misbruk før de blir utbredt, og styrker dermed Metas forsvarsevne.

Meta forbedrer også identifikasjonen av brukere som forsøker å omgå utestengelser ved å opprette nye kontoer, noe som styrker plattformens integritet.

Disse tiltakene faller sammen med økt granskning av Meta når det gjelder barns sikkerhet, inkludert nylige rettssaker og lovgivningspress. Merk at Meta i august godtok en forliksavtale på opptil 18 milliarder dollar for å adressere bekymringer knyttet til barns sikkerhet i 29 amerikanske delstater.

I løpet av 2026 har Meta introdusert ulike funksjoner for barns sikkerhet, slik som foreldrekontroller for AI-verktøy, spesialkontoer for før-tenåringer på WhatsApp, og foreldrevarsler knyttet til barns søk etter selvskadingsinnhold på Instagram.

For å ytterligere øke sikkerheten på meldingsplattformer lanserte WhatsApp nye foreldrekontroller som lar foreldre begrense tenåringers bruk av Kanaler, synlighet av statusoppdateringer, gruppeinvitasjoner og varsler om spesifikke gruppeaktiviteter.

Samlet sett reflekterer disse AI-drevne fremskrittene og sikkerhetsfunksjonene Metas pågående engasjement for å oppdage og forhindre spredning av materiale om seksuelle overgrep mot barn og beskytte unge brukere på sine plattformer.