Лидеры в области ИИ предупреждают о растущих угрозах кибербезопасности на фоне призывов к ужесточению мер безопасности

Image: Illustrative image · National Academies - Earth and Life Studies · CC BY 3.0 · Source

Руководители Google DeepMind и Microsoft призывают к усилению протоколов безопасности ИИ и международному регулированию для предотвращения нарастающих кибератак, подчеркивая необходимость инноваций в области обороны наряду с развитием ИИ.

На Международном саммите по ИИ в Дублине ключевые фигуры в области искусственного интеллекта выразили озабоченность по поводу обостряющихся рисков кибербезопасности, связанных с технологиями ИИ. Демис Хассабис, соучредитель Google DeepMind, охарактеризовал недавние кибератаки с использованием ИИ как «запуски предупредительных выстрелов», которые сигнализируют о возможных более серьезных инцидентах, если компании и правительства не внедрят усиленные меры безопасности.

Хассабис рекомендовал перенять практики безопасности из строго регулируемых сфер, таких как биология и ядерные технологии, предложив использовать безопасные, изолированные среды для тщательного тестирования систем ИИ до их запуска в онлайн-среде. Он подчеркнул необходимость укрепления киберзащиты, чтобы опережать злоумышленников, предположив, что такие секторы, как банковская сфера и правительство, могут сами использовать ИИ для проактивного выявления и устранения уязвимостей программного обеспечения до его широкого распространения.

Кроме того, Хассабис снова призвал создать международный орган по стандартам для контроля безопасности ИИ. Он подчеркнул, что такое регулирование должно быть адаптивным, чтобы идти в ногу с быстрым технологическим прогрессом, не препятствуя инновациям.

Поддерживая эту точку зрения, президент и генеральный директор Microsoft Брэд Смит охарактеризовал приближающийся 2026 год как критический период для безопасности ИИ, выступая за «разумное» и «сбалансированное» регулирование. Смит отметил, что ни одна компания или технология не должна работать вне правового контроля, и упомянул о стратегическом перераспределении 34 000 инженеров Microsoft с разработки продуктов на кибербезопасность как о сложном, но необходимом шаге. Он также раскритиковал сопротивление в индустрии ИИ мерам регулирования, назвав это «аллергией», которую необходимо преодолеть.

Параллельно Google DeepMind и Google Cloud объявили о совместной инициативе по развитию исследований ИИ в Европе. Они планируют предоставить до 200 европейских исследователей доступ к передовым моделям ИИ и выделить 3 миллиона долларов в виде вычислительных кредитов. Эта программа, являющаяся частью инициативы ЕС AI for Science под названием Resource for AI Science in Europe (RAISE), направлена на помощь учёным в решении сложных задач, таких как прогнозирование экстремальных погодных явлений и картирование молекулярных структур с помощью передовых инструментов ИИ, включая AlphaFold 3 и AlphaGenome.

Эти события подчеркивают растущее осознание среди лидеров индустрии ИИ срочной необходимости надежных рамок безопасности и кооперативного управления для защиты достижений ИИ и поддержки научных прорывов.