Прогресс в области ИИ вызывает новую эру проблем в кибербезопасности, предупреждает эксперт

Image: The Verge · Source

Алекс Стамос, главный специалист по безопасности Cognition, объясняет, как инструменты взлома на базе ИИ вызывают беспрецедентные волны кибератак и меняют экономику кибербезопасности, предсказывая трудный переходный "тёмный век."

Кибербезопасность переживает глубокие изменения из-за техник взлома, усиленных ИИ, согласно Алексу Стамосу, главному специалисту по безопасности компании Cognition и опытному эксперту в области кибербезопасности. В подробном интервью The Verge Стамос отметил, что инструменты на базе ИИ позволили злоумышленникам автоматизировать весь кибер-"kill chain", давая возможность находить и эксплуатировать уязвимости программного обеспечения в реальном времени на беспрецедентном масштабе. Эта инновация значительно увеличивает скорость, охват и сложность кибератак, направленных на компании по всему миру.

Стамос описывает нынешнюю ситуацию в кибербезопасности как напоминающую ранние, хаотичные дни интернета 1990-х годов, когда онлайн-протоколы безопасности были несовершенны и легко обходились. Сегодня же этот сценарий "Дикого Запада" значительно усилен инструментами на базе ИИ, которые теперь общедоступны, например, опенсорсная система ARTEX, связанная с китайскими хакерскими группами. Эти инструменты существенно снижают порог навыков, позволяя более широкому кругу злоумышленников совершать успешные атаки на компании стоимостью в миллиарды долларов. Например, недавние атаки скомпрометировали платформы, предоставляющие услуги ИИ, и вызвали каскадные нарушения безопасности, затронувшие тысячи компаний.

Экономическая модель кибератак тоже меняется. Раньше атаки проводили ограниченное число высококвалифицированных хакеров и команд при поддержке государств, с четкой иерархией инструментов и операторов. Теперь ИИ демократизирует продвинутые возможности взлома, делая сложные эксплойты доступными и масштабируемыми для небольших групп и отдельных злоумышленников. Этот сдвиг усугубляется технологиями, такими как Bitcoin, которые облегчают анонимную монетизацию киберпреступности.

Стамос выделяет основные угрозы из разных источников: северокорейские группы, сосредоточенные на краже криптовалюты, и китайскую "домашнюю промышленность" подрядчиков, взламывающих компании для перепродажи информации. Между тем защита сталкивается с высокими операционными расходами. Текущие модели ИИ, применяемые в защитных операциях, дорогостоящи в эксплуатации по сравнению с почти нулевыми маргинальными затратами для атакующих, использующих доступное оборудование и открытые модели.

Для противодействия этому дисбалансу Стамос выступает за инновации, снижающие затраты на защиту, включая использование легких моделей ИИ для обработки огромных журналов безопасности и эскалацию подозрительной активности к более сложным системам. Он также рекомендует фундаментальный переход от простого исправления багов к переработке и переписыванию устаревшего программного обеспечения, особенно старых кодовых баз с обширными уязвимостями. Например, переписывание крупных критических систем, таких как ядро Linux, на более безопасных языках программирования, таких как Rust, может принести долгосрочные выгоды для безопасности.

Несмотря на серьёзные вызовы, Стамос настроен осторожно оптимистично. Он предвидит неизбежный "тёмный век", когда атаки усилятся, а защите будет тяжело, но верит, что появится новая эра улучшенной безопасности. В долгосрочной перспективе он ожидает, что среднее программное обеспечение будет генерироваться ИИ, используя безопасные языки и проходить тщательное тестирование, что снизит уязвимости.

Стамос подчёркивает, что индустрия кибербезопасности должна быстро адаптироваться к этой реальности, движимой ИИ, сосредотачиваясь на экономии операционных затрат и комплексных стратегиях защиты, выходящих за рамки простого исправления багов. Ставки высоки, поскольку масштаб и серьёзность кибератак с поддержкой ИИ продолжают расти, влияя на глобальную технологическую инфраструктуру и бизнес-операции.