Meta lanza IA avanzada para detectar anuncios que conducen a material de abuso sexual infantil

Image: TechCrunch · Source

Meta presenta nuevas herramientas de IA, incluyendo un modelo de lenguaje extenso y un agente de red-teaming, para identificar anuncios que dirigen encubiertamente a los usuarios hacia contenido de abuso sexual infantil y mejorar la seguridad infantil en sus plataformas.

Meta anunció avances significativos en su enfoque para combatir el contenido de explotación sexual infantil en sus plataformas, Facebook e Instagram. Solo en la primera mitad de 2026, Meta tomó medidas contra 33.2 millones de piezas de dicho contenido, con más del 97 % detectado por sistemas de IA antes de informes de usuarios. Específicamente en India, se eliminaron 5.3 millones de piezas, con tasas de detección aún mayores, superiores al 98 % antes de los reportes.

En respuesta a las tácticas evolutivas de actores maliciosos, Meta está implementando nuevas herramientas impulsadas por IA diseñadas para identificar anuncios que parecen inofensivos pero que funcionan como "señalización"—guiando indirectamente a los usuarios hacia material ilegal fuera del ecosistema de Meta. Estos anuncios no contienen necesariamente contenido ilegal en sí, pero actúan como puertas de entrada a material de abuso sexual infantil alojado en otros sitios en línea.

Se ha introducido un nuevo modelo de lenguaje extenso (LLM) para detectar estas formas sutiles de señalización evaluando no solo el contenido del anuncio sino también los destinos a los que se dirige a los usuarios. Esto permite a Meta bloquear dichos sitios web, tomar acciones contra las cuentas asociadas y reforzar la aplicación más allá de los anuncios mismos. Adicionalmente, Meta está desplegando escaneos avanzados de IA para descubrir contenido de explotación infantil que las herramientas anteriores podrían haber pasado por alto, actualizando continuamente las señales de detección a medida que profundiza su comprensión de las redes de abuso.

Complementando estas medidas de detección, se ha desarrollado un "agente de IA de red-teaming," para examinar internamente los sistemas de seguridad de Meta en busca de vulnerabilidades que actores malintencionados podrían explotar. Este mecanismo de prueba proactiva busca identificar nuevos métodos de abuso antes de que se generalicen, fortaleciendo las capacidades defensivas de Meta.

Meta también está mejorando la identificación de usuarios que intentan evadir prohibiciones abriendo nuevas cuentas, reforzando la integridad de la plataforma.

Estas medidas coinciden con un aumento del escrutinio hacia Meta respecto a la seguridad infantil, incluyendo demandas recientes y presión legislativa. Destaca que Meta acordó en agosto un acuerdo de hasta 18 mil millones de dólares para abordar preocupaciones sobre seguridad infantil en 29 estados de EE. UU. A lo largo de 2026, Meta ha introducido varias funciones de seguridad infantil, como controles parentales para sus herramientas de IA, cuentas especializadas para preadolescentes en WhatsApp y alertas parentales vinculadas a búsquedas infantiles de contenido sobre autolesiones en Instagram.

Para mejorar aún más la seguridad en los servicios de mensajería, WhatsApp lanzó nuevos controles parentales que permiten restricciones sobre el uso de Canales por parte de adolescentes, la visibilidad de actualizaciones de estado, invitaciones a grupos y alertas sobre actividades específicas en grupos.

En conjunto, estos avances impulsados por IA y funciones de seguridad reflejan el compromiso continuo de Meta para detectar y prevenir la difusión de material de abuso sexual infantil y proteger a los usuarios jóvenes en sus plataformas.