OpenAI запускает модель ИИ, ориентированную на кибербезопасность, на фоне роста цифровых угроз

Image: TechCrunch · Source

OpenAI представляет ChatGPT Cyber — новую модель ИИ, разработанную для усиления защиты в области кибербезопасности за счет обнаружения и устранения уязвимостей в программном обеспечении, в ответ на растущие опасения по поводу взломов с помощью ИИ.

OpenAI представила специализированную модель ИИ для кибербезопасности под названием ChatGPT Cyber, предназначенную для выявления и устранения уязвимостей в программном обеспечении с целью защиты критически важной цифровой инфраструктуры. Выпуск модели происходит на фоне того, что инструменты на базе искусственного интеллекта все чаще помогают как защитникам кибербезопасности, так и потенциальным злоумышленникам.

Важность таких моделей подчеркнул Макс Джастиц, технический директор и соучредитель Charge Robotics, который с помощью предыдущей модели OpenAI, GPT 5.6 Sol, обнаружил серьезную уязвимость в широко используемой операционной системе на базе Linux — Ubuntu. Инструктируя ИИ искать ошибки сопоставимой серьезности с уже исправленной проблемой, модель обнаружила сложный эксплойт, который при использовании мог бы позволить хакерам получить контроль над серверами. Это обнаружение было сообщено проекту Debian, который оперативно выпустил патч; нет доказательств того, что уязвимость была использована в реальной эксплуатации.

Новая модель OpenAI доступна для участников высшего уровня в рамках программы Daybreak по кибербезопасности, особенно в подразделении Daybreak Red, сфокусированном на наступательных исследованиях безопасности и поиске уязвимостей. OpenAI сообщил, что модель недавно просканировала ядро Linux, выявив 948 потенциальных уязвимостей, а также обнаружила 81 новую уязвимость в браузере Firefox, демонстрируя способность ИИ значительно улучшать аудит безопасности.

Для поддержки усилий по защите отрасли OpenAI объявила об инициативе на сумму 1 миллиард долларов, направленной на поддержку специалистов по кибербезопасности, работающих в критически важных инфраструктурных секторах, таких как электросети и водоснабжение. Однако программа вызвала некоторую критику из-за ограниченного доступа к мощным функциям, что, по мнению некоторых экспертов, снижает эффективность защитников по сравнению с атакующими, которые могут использовать неограниченные модели ИИ с открытыми весами.

Несмотря на участие тысяч специалистов по кибербезопасности, масштабы усилий значительно уступают числу потенциальных злоумышленников. OpenAI признаёт этот дисбаланс и выделяет значительную часть своих передовых вычислительных ресурсов на безвозмездное обнаружение и устранение уязвимостей в открытых исходных кодах. Тем не менее стоимость этих инициатив, например, поиск багов в Linux стоимостью 1,2 миллиона долларов, скромна по сравнению с другими крупномасштабными проектами в области ИИ.

Появление ChatGPT Cyber подчёркивает насущную необходимость для сообщества кибербезопасности оперативно использовать передовые технологии ИИ. По мере развития моделей ИИ окно для рисков сужается, что делает скоординированные усилия по выявлению и устранению уязвимостей всё более неотложными для защиты цифровой инфраструктуры, лежащей в основе современного общества.