Эксперты предупреждают: индустрия ИИ крайне уязвима для схем с «медовыми ловушками», эксплуатирующими человеческое доверие

Image: TechCrunch · Source
После громкого случая с «медовой ловушкой» с участием CEO Nvidia эксперты предупреждают, что почти каждый в сфере ИИ подвержен социально-инженерным атакам, использующим личные отношения для доступа к конфиденциальной информации.
По мере того как разворачиваются последствия подозреваемого скандала с «медовой ловушкой» вокруг CEO Nvidia Дженсена Хуана, специалисты по кибербезопасности и разведке бьют тревогу о широко распространенной уязвимости в секторе искусственного интеллекта. Аарон Браун, бывший офицер ЦРУ и основатель Lumbra, рассказал TechCrunch, что тренинги по контрразведке практически отсутствуют в технологической сфере, несмотря на то что критически важные секреты теперь хранятся в компаниях, разрабатывающих модели ИИ, чипы и инфраструктуру.
Традиционно «медовые ловушки» — схемы, направленные на компрометацию цели через личные отношения — ассоциируются с политиками или военными, которые знают о рисках и обучены противостоять таким атакам. Однако Браун подчеркнул, что в современной технологической экосистеме CEO или руководитель — основной объект атак из-за доступа к планам компании, решениям по экспорту, спискам клиентов и контролю над распространением технологий.
Дженсен Хуанг обвиняется в том, что стал жертвой такой схемы с Алисой Хуанг, бывшим руководителем, связанной с сингапурским облачным провайдером и предполагаемыми китайскими шпионскими действиями, включающими нелегальную передачу чипов Nvidia. Этот случай вызвал обсуждения более широкой уязвимости Кремниевой долины, охватывающей не только CEO, но и всех, кто имеет доступ к конфиденциальной информации, включая членов совета директоров и исполнительных ассистентов.
Самой старой и эффективной социальной инженерией является не обязательно романтическая связь, а скорее дружба или профессиональная близость. Злоумышленники часто проникают в сети, выдавая себя за инвесторов, клиентов, рекрутеров или консультантов, чтобы завоевать доверие и получить инсайдерскую информацию без подозрений. Перри Карпентер из KnowBe4 отметил, что человеческий фактор — эмоциональные связи и чувство комфорта — в конечном итоге и позволяют этим обманам происходить, несмотря на прогресс в технологиях кибербезопасности.
Сам ИИ парадоксально упростил и удешевил создание «медовых ловушек». Злоумышленники теперь могут создавать убедительные фейковые личности, реалистичные социальные профили, истории и даже симулировать голосовые звонки с помощью ИИ, значительно сокращая время и усилия, необходимые для планирования сложных социальных атак.
Эксперты советуют повышать бдительность к необычным паттернам, таким как повторяющиеся совпадения встреч, чрезмерный интерес к конфиденциальным вопросам, секретность вокруг встреч и нарастающие запросы на чувствительную информацию. Рекомендуется также поддерживать чёткие границы между личной и профессиональной сферой и развивать корпоративную культуру, в которой сотрудники чувствуют себя вправе задавать вопросы даже высшему руководству. Браун отметил, что паранойя не продуктивна, но осознание, что ты можешь стать целью, крайне важно.
Поскольку индустрия ИИ быстро переплетается с интересами национальной безопасности, эта новая угроза подчёркивает необходимость улучшения мер контрразведки, адаптированных к уникальной среде технологического сектора. Человеческая уязвимость к манипуляциям — это желание быть понятым и вызывающим доверие — остаётся фундаментальной проблемой, которую сама технология решить не может.
Источники и первоисточники
Read the original source ↗

Комментарии (0)
Комментариев пока нет. Начните обсуждение.
Написать комментарий
Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт