Meta käivitab täiustatud tehisintellekti laste seksuaalse väärkohtlemise materjali levitamise reklaamide tuvastamiseks

Pilt: TechCrunch · Allikas

Meta tutvustab uusi tehisintellekti tööriistu, sealhulgas suurt keelemudelit ja punase meeskonna agenti, mis aitavad tuvastada reklaame, mis varjatult suunavad kasutajaid laste seksuaalse väärkohtlemise sisule, tugevdades laste turvalisust platvormidel.

Meta teatas olulistest edusammudest laste seksuaalse ärakasutamise sisu vastu võitlemisel oma platvormidel, Facebookis ja Instagramis. Ainult 2026. aasta esimesel poolel võttis Meta meetmeid 33,2 miljoni sellise sisu vastu, kusjuures üle 97% avastati tehisintellekti süsteemide poolt enne kasutajate teatamist. Eriti Indias eemaldati 5,3 miljonit eset, kus avastamise määrad olid isegi kõrgemad, ulatudes üle 98% enne teatamist.

Vastuseks halbade osapoolte muutuvale taktikale kasutab Meta uusi tehisintellektil põhinevaid tööriistu, mis on mõeldud reklaamide tuvastamiseks, mis näivad kahjutud, kuid toimivad kui "viited" – kaudselt juhatades kasutajaid ebaseadusliku materjali juurde väljaspool Meta ökosüsteemi. Need reklaamid ei sisalda tingimata ise ebaseaduslikku sisu, kuid toimivad väravatena laste seksuaalse väärkohtlemise materjalile, mis on hostitud mujale internetis.

Uus suur keelemudel (LLM) on loodud nende peente viitamiste tuvastamiseks, hinnates mitte ainult reklaamide sisu, vaid ka sihtkohti, kuhu kasutajad suunatakse. See võimaldab Metal blokeerida selliseid veebisaite, võtta meetmeid nendega seotud kontode vastu ning tugevdada jõustamist kaugemale ainult reklaamidest. Lisaks rakendab Meta täiustatud tehisintellekti skaneeringuid, et leida laste ärakasutamise sisu, mida varasemad tööriistad võisid märkamata jätta, pidevalt uuendades tuvastamise signaale ja süvendades arusaamist kuritarvitusvõrgustikest.

Nende tuvastusmeetmete täienduseks kasutusele võetakse "punase meeskonna tehisintellekti agent", mis on loodud Meta turvasüsteemide sisemiseks testimiseks haavatavusteks, mida halvad osapooled võiksid ära kasutada. See proaktiivne testimismehhanism püüab tuvastada uusi kuritarvitusviise enne nende levikut, tugevdades Meta kaitsevõimet.

Meta parendab ka isikute tuvastamist, kes üritavad keeldu tühistada uute kontode taasavamisega, tugevdades platvormi terviklikkust.

Need meetmed toimuvad koos Meta suureneva tähelepanuga lapsekaitse teemal, sealhulgas hiljutiste kohtuasjade ja seadusandliku surve taustal. Märkimisväärselt sõlmis Meta augustis 29 USA osariigi laste turvalisusega seotud tähelepanekute lahendamiseks kuni 18 miljardi dollari suuruse kokkuleppe. Kogu 2026. aasta jooksul on Meta tutvustanud erinevaid lapsekaitse funktsioone, nagu vanemlikud kontrollid oma tehisintellekti tööriistadele, spetsiaalsed kontod eelkooliealistele WhatsAppis ning vanemate märguanded laste Instagrami isetegemise teemaliste otsingute kohta.

Lisaks sõnumside teenuste turvalisuse parandamisele käivitas WhatsApp uued vanemlikud kontrollid, mis võimaldavad piirata teismeliste kanalite kasutamist, nähtavust olekuuuenduste osas, grupikutsed ja märguanded konkreetsetest grupitegevustest.

Koos peegeldavad need tehisintellektil põhinevad uuendused ja turvafunktsioonid Meta pühendumust laste seksuaalse väärkohtlemise materjali leviku tuvastamisele ja tõkestamisele ning noorte kasutajate kaitsmisele oma platvormidel.