Meta julkaisee kehittyneen tekoälyn lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaaliin johtavien mainosten havaitsemiseen

Kuva: TechCrunch · Lähde

Meta esittelee uusia tekoälytyökaluja, mukaan lukien suuren kielimallin ja red-teaming-agentin, havaitsemaan mainoksia, jotka salaa ohjaavat käyttäjiä lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaaliin, ja parantamaan lasten turvallisuutta alustoillaan.

Meta ilmoitti merkittävistä edistysaskeleista lapsiin kohdistuvan seksuaalisen hyväksikäytön sisällön torjumisessa alustoillaan Facebookissa ja Instagramissa. Pelkästään vuoden 2026 ensimmäisellä puoliskolla Meta ryhtyi toimenpiteisiin 33,2 miljoonaa tällaista sisältöä vastaan, joista yli 97 % löydettiin tekoälyjärjestelmien avulla ennen käyttäjien raportteja. Erityisesti Intiassa poistettiin 5,3 miljoonaa kappaletta, ja havaitsemisprosentti oli vielä korkeampi, yli 98 % ennen raportointia.

Vastaamaan pahoilta toimijoilta tuleviin kehittyviin taktiikoihin Meta ottaa käyttöön uusia tekoälypohjaisia työkaluja, jotka on suunniteltu tunnistamaan mainoksia, jotka näyttävät viattomilta mutta toimivat "viestinnän merkkipisteinä" – ohjaamalla käyttäjiä epäsuorasti laittomaan aineistoon, joka sijaitsee Meta-ekosysteemin ulkopuolella. Nämä mainokset eivät välttämättä sisällä laitonta sisältöä, mutta toimivat portteina lasten seksuaalisen hyväksikäytön materiaaliin, jota isännöidään muualla verkossa.

Uusi suuri kielimalli (LLM) on otettu käyttöön havaitsemaan nämä hienovaraiset merkkipisteet arvioimalla sekä mainosten sisältöä että käyttäjien ohjaamia kohdesivuja. Tämä mahdollistaa Metan estää kyseiset verkkosivustot, ryhtyä toimiin liittyviä tilejä vastaan ja tiukentaa valvontaa pelkkien mainosten ulkopuolelle. Lisäksi Meta ottaa käyttöön parannettuja tekoälyskannauksia paljastaakseen lapsiin kohdistuvan hyväksikäytön sisältöä, joka saattoi aiemmin jäädä huomaamatta, päivittäen jatkuvasti havaitsemissignaaleja syventäessään ymmärrystään hyväksikäyttöverkostoista.

Näitä tunnistusmenetelmiä täydentää "red-teaming tekoälyagentti", joka on kehitetty sisäisesti testaamaan Metan turvallisuusjärjestelmiä haavoittuvuuksien varalta, joita pahat toimijat voisivat hyödyntää. Tämä ennakoiva testausmekanismi pyrkii tunnistamaan uusia hyväksikäyttötapoja ennen niiden leviämistä, vahvistaen Metan puolustuskykyä.

Meta parantaa myös tunnistamista käyttäjien osalta, jotka yrittävät kiertää estoja avaamalla uusia tilejä, vahvistaen alustan eheyttä.

Nämä toimet ajoittuvat yhteen kasvavan tarkastelun kanssa, jota Meta kohtaa lapsiturvallisuuteen liittyen, mukaan lukien äskettäiset oikeusjutut ja lainsäädännöllinen paine. Merkittävästi Meta suostui elokuussa jopa 18 miljardin dollarin sovintoratkaisuun, joka käsittelee lapsiturvallisuuskysymyksiä 29 Yhdysvaltain osavaltiossa. Koko vuoden 2026 aikana Meta on ottanut käyttöön erilaisia lapsiturvallisuusominaisuuksia, kuten vanhempien valvonnan tekoälytyökaluilleen, erikoistuneita tilejä leikki-ikäisille WhatsAppissa ja vanhempien hälytyksiä, jotka liittyvät lasten itsensä vahingoittamista koskeviin hakuin Instagramissa.

Turvallisuuden parantamiseksi viestintäpalveluissa WhatsApp julkaisi uudet vanhempien valvontatyökalut, jotka mahdollistavat rajoituksia teini-ikäisten kanavien käytössä, tilapäivitysten näkyvyydessä, ryhmäkutsujen vastaanottamisessa sekä hälytyksissä tietyistä ryhmätoiminnoista.

Yhdessä nämä tekoälypohjaiset kehitykset ja turvallisuusominaisuudet heijastavat Metan jatkuvaa sitoutumista lapsiin kohdistuvan seksuaalisen hyväksikäytön aineiston leviämisen estämiseen ja nuorten käyttäjien suojelemiseen alustoillaan.