Поддельные AI-изображения знаменитостей с верификацией Instagram подчеркивают риски платформы

Image: Illustrative image · Instagram · Public domain · Source

Изображения знаменитостей, созданные AI и имеющие верифицированные аккаунты в Instagram, становятся широко распространенными, вызывая опасения по поводу выдачи себя за других, вводящего в заблуждение контента и мер безопасности платформы.

Недавний инцидент в Instagram выявил серьезные проблемы, вызванные deepfake-изображениями знаменитостей, созданными с помощью ИИ, на платформах социальных сетей. Аккаунт Instagram @miagoth_, отмеченный синим знаком проверки и выдающий себя за актрису Мию Гот, опубликовал созданное ИИ изображение актрисы в футболке с надписью «MY EX IS MY BIGGEST FAN» сразу после того, как она подала на развод с актером Шайей ЛаБафом. Под записью, сопровождаемой песней Beyoncé «Single Ladies (Put a Ring on It)», набралось почти 500 000 лайков, включая одобрения коллег по развлекательной индустрии, несмотря на то, что аккаунт был фан-страницей и неавторитетным.

Представитель Мии Гот подтвердил для The Verge, что ранее они сообщали Instagram о данном аккаунте за публикацию поддельных AI-изображений. Тем не менее, система Instagram позволила фан-аккаунту получить статус верификации — решение, которое представитель Гот назвал «тревожным», раскритиковав платформу за приоритеты в пользу манипулированных изображений над защитой прав на образ публичных личностей.

Это вирусное AI-изображение распространялось не только в Instagram, но и проникло на сайты сплетен о знаменитостях и значительно отображалось в результатах поиска Google, ошибочно выдаваясь за аутентичный комментарий по поводу развода Гот. В конце концов Instagram удалил мошеннический аккаунт за выдачу себя за публичную личность.

Распространение deepfake-изображений знаменитостей, созданных AI, выходит за рамки этого случая — множество аккаунтов в Instagram создают манипулированные изображения и видео известных лиц, таких как Скарлетт Йоханссон, Тейлор Свифт и других, часто с сексуализацией или вводящими в заблуждение элементами. Компания Meta, владеющая Instagram, подтвердила The Verge, что по итогам запросов удалила несколько таких аккаунтов, но признала продолжающиеся трудности с контролем этого контента.

Meta применяет политику против выдачи себя за других и требует маркировки AI-созданных видео, однако статические изображения пока не подпадают под требования раскрытия AI-генерации, что снижает прозрачность информации о манипулированном содержании. Такое несоответствие позволяет AI-сгенерированным изображениям широко распространяться без ясного информирования пользователей.

В сравнении с другими платформами YouTube использует более совершенную систему распознавания образов, разработанную совместно с индустрией развлечений, сканирующую как визуальный, так и звуковой контент, и учитывающую запросы на удаление в интересах общественности. Однако огромный объем и постоянное развитие AI-контента усложняют обеспечение соблюдения правил во всех сетях.

Инцидент с Мией Гот иллюстрирует более масштабные проблемы с доверием и безопасностью на платформах соцсетей, где AI-генерированные изображения могут вводить пользователей в заблуждение, распространять ложные истории о деликатных личных вопросах и нарушать права личности. При отсутствии универсальной юридической базы в отношении прав на AI-образ нагрузка по смягчению злоупотреблений лежит на политике платформ и технологических решениях.

С развитием и доступностью инструментов генерации AI-контента социальные сети сталкиваются с возрастающим давлением на улучшение процессов верификации, маркировки контента и механизмов правоприменения для защиты публичных фигур и пользователей от обманчивых и вредоносных материалов, созданных AI.