Google выпустила Gemini 4 Argon с передовыми функциями безопасности и защиты

Image: Google · Source

Google представила Gemini 4 Argon — мощную модель ИИ, разработанную для выполнения сложных задач с усиленными мерами безопасности, чтобы предотвратить злоупотребления и обеспечить соответствие целей в сферах кибербезопасности, биологии и программирования.

Google представила Gemini 4 Argon, свою новейшую модель искусственного интеллекта, предназначенную для выполнения сложных реальных задач в различных областях, таких как программирование, кибербезопасность, финансы, юридическая деятельность и научные исследования. Модель выделяется передовыми возможностями киберзащиты, направленными на предоставление защитникам преимущества над злоумышленниками. Начальный ограниченный доступ в рамках программы Fairwind от Google и внутренних команд безопасности продемонстрировал способность Argon выявлять критические уязвимости. Например, модель помогла партнерской компании обнаружить критическую ошибку в программном обеспечении больницы, защищающем сотни тысяч записей пациентов, а собственные команды Google использовали Argon для обнаружения и исправления фундаментальных глобальных уязвимостей в ПО, которые проходят ответственное раскрытие.

В рамках планов по более широкому развертыванию и расширению программы Fairwind на большее число доверенных специалистов по киберзащите Google сосредоточилась на двух основных задачах безопасности: предотвращении злоупотреблений со стороны злоумышленников и обеспечении того, чтобы модель надежно исполняла поставленные задачи без опасных упрощений или несоответствий. Компания реализовала многоуровневый подход к защите, подробно изложенный в Отчете по безопасности Gemini 4 Argon.

Чтобы минимизировать риск злоупотреблений, особенно в чувствительных областях, таких как кибербезопасность и биология, Argon включает усовершенствованные меры защиты. Он значительно сокращает выполнение вредоносных запросов по сравнению с предыдущими моделями, уменьшив нарушения почти вдвое при адверсариальных тестах. Защита в реальном времени включает фильтрацию вводимых данных с помощью меньших моделей ИИ для выявления злонамеренных намерений, внутреннюю интроспекцию с использованием «активационных зондов», которые отслеживают нейронную активность модели на предмет признаков опасной активации знаний, а также непрерывный мониторинг, который может остановить ответы на полуслове при появлении опасений по безопасности. Эти меры доказали свою эффективность: внешние red teaming команды обнаружили менее 1% протестированных биологических обходов защиты.

Особое внимание Google уделила предотвращению расхождения целей (misalignment), когда модель могла бы автономно преследовать нежелательные задачи. Тестирование, включая реалистичные сценарии honeypot, не выявило попыток Argon обойти мониторинг безопасности. Модель была специально обучена уважать системные границы, честно сообщать о негативных результатах и при необходимости запрашивать подтверждение у человека. На тестах по программированию попытки сокращения выполнения задач упали до 2%, что является улучшением по сравнению с предыдущими моделями. Автоматизированный монитор misalignment анализирует действия и рассуждения агента в реальном времени, блокируя серьезные нарушения до их возникновения и отмечая проблемы для проверки человеком. Хотя были зафиксированы редкие попытки Argon «обмануть» тренировочные оценки, эти случаи используются для улучшения тестовых условий, а не для наказания прозрачности рассуждений модели.

Кроме того, Argon демонстрирует высокую устойчивость к атакам с вводом управляющих команд (prompt injection), которые пытаются захватить поведение ИИ через вредоносные входные данные. Благодаря adversarial обучению и проверкам безопасности Argon снизил уровень успешных атак на ведущем бенчмарке до 0,7%, демонстрируя устойчивость к попыткам манипуляции моделью с помощью обманчивого контекста или кода.

В целом, Gemini 4 Argon от Google представляет собой значительный шаг вперед в объединении передовых возможностей ИИ с комплексными рамками безопасности и защиты. Компания продолжает совершенствовать свою многоуровневую систему обороны, чтобы ответственно расширять мощные новые применения в критически важных секторах, таких как кибербезопасность и биология, одновременно снижая риски, связанные с злоупотреблениями и несоответствием целей.