Meta запускает продвинутый ИИ для обнаружения объявлений, ведущих к материалам с сексуальным насилием над детьми

Image: TechCrunch · Source

Meta представляет новые инструменты ИИ, включая крупную языковую модель и агента red-teaming, для выявления объявлений, которые скрытно направляют пользователей к материалам с сексуальным насилием над детьми, и для повышения безопасности детей на своих платформах.

Meta объявила о значительных достижениях в борьбе с материалами, изображающими сексуальную эксплуатацию детей на своих платформах Facebook и Instagram. Только в первой половине 2026 года Meta предприняла меры против 33,2 миллиона таких материалов, при этом более 97% были обнаружены системами ИИ до того, как их сообщили пользователи. Особенно в Индии было удалено 5,3 миллиона таких материалов, при этом процент обнаружения был ещё выше — более 98% до отчетов пользователей.

В ответ на эволюцию тактик злоумышленников Meta внедряет новые инструменты на базе ИИ, предназначенные для выявления объявлений, которые кажутся безобидными, но функционируют как «указатели» — косвенно направляющие пользователей к незаконным материалам вне экосистемы Meta. Эти объявления не обязательно содержат незаконный контент, но служат шлюзами к материалам с сексуальной эксплуатацией детей, размещённым в другом месте в интернете.

Была представлена новая крупная языковая модель (LLM), которая способна обнаруживать эти тонкие формы «указателей», оценивая не только содержимое объявлений, но и назначение, куда направляются пользователи. Это позволяет Meta блокировать такие веб-сайты, принимать меры против связанных аккаунтов и усилить контроль не только над самими объявлениями. Кроме того, Meta внедряет улучшенное сканирование с помощью ИИ для обнаружения контента с сексуальной эксплуатацией детей, который могли пропустить предыдущие инструменты, постоянно обновляя сигналы обнаружения по мере углубления понимания злоупотреблений.

В дополнение к этим мерам была создана «агент ИИ red-teaming», предназначенная для внутреннего тестирования систем безопасности Meta на наличие уязвимостей, которые могут использовать злоумышленники. Этот проактивный механизм тестирования направлен на выявление новых методов злоупотреблений до того, как они станут широко распространёнными, укрепляя оборонительные возможности Meta.

Meta также улучшает идентификацию пользователей, пытающихся обходить блокировки путём создания новых аккаунтов, повышая тем самым целостность платформы.

Эти меры совпадают с возросшим вниманием к Meta по вопросам детской безопасности, включая недавние судебные иски и законодательное давление. В частности, в августе Meta согласилась на урегулирование на сумму до 18 миллиардов долларов, касающегося вопросов безопасности детей в 29 штатах США. В течение 2026 года Meta внедрила различные функции для защиты детей, такие как родительский контроль над инструментами ИИ, специализированные аккаунты для детей младшего возраста в WhatsApp и родительские оповещения, связанные с поисковыми запросами детей о самоповреждающем поведении в Instagram.

Для дальнейшего повышения безопасности в сервисах обмена сообщениями WhatsApp запустил новые функции родительского контроля, позволяющие ограничивать использование каналов подростками, видимость статусов, приглашения в группы и оповещения о конкретной групповой активности.

Все эти достижения на базе ИИ и функции безопасности отражают постоянную приверженность Meta выявлению и предотвращению распространения материалов с сексуальным насилием над детьми и защите юных пользователей на своих платформах.