Хакеры используют уязвимость в OpenCode Console, скапливая несанкционированные расходы на AI-сервисы

Image: TechCrunch · Source

Произошла утечка ключей API в OpenCode Console, что привело к несанкционированному использованию AI и начислению счетов у 1,4% пользователей. Инцидент выявил проблемы защиты от кибератак с ИИ из-за существующих ограничений моделей безопасности.

OpenCode, агент кодирования на основе открытого исходного кода, конкурирующий с такими инструментами, как Claude Code и Cursor, столкнулся с нарушением безопасности, затронувшим около 1,4% пользователей его онлайн-платформы OpenCode Console. Эта консоль хранит ключи API, которые пользователи используют для доступа к различным AI-сервисам. Злоумышленники проникли в старую систему ночью, получив доступ к учетным данным API некоторых пользователей.

Это нарушение привело к несанкционированному использованию AI-моделей, связанных с украденными ключами, и многие пользователи сообщили о значительных неожиданных расходах — от сотен до более тысячи долларов. Эти списания происходили у основных поставщиков AI, включая OpenAI, Anthropic и Google. Быстрые меры со стороны этих компаний включали блокировку скомпрометированных ключей API и сотрудничество с OpenCode для восстановления нормальной работы и возврата средств пострадавшим.

OpenCode уточнила, что нарушение ограничилось платформой Console и не затронуло открытое приложение и инструменты командной строки, которые не хранят ключи пользователей. Компания уведомила пострадавших пользователей по электронной почте и рекомендовала отозвать ключи и заменить их у каждого отдельного поставщика AI-услуг.

Во время продолжающейся атаки команда OpenCode сталкивалась с непрерывными попытками взлома, что требовало постоянного развертывания AI-агентов защиты. Однако возникли трудности, когда несколько AI-моделей, изначально используемых для защиты, отказались анализировать фрагменты вредоносного кода из-за встроенных фильтров безопасности, что осложнило реагирование на инцидент. Позднее доступ к программе OpenAI Daybreak Blue — предлагающей проверенные AI-модели с ослабленными ограничениями — помог в расследовании и устранении последствий.

Это событие подчеркивает более широкую проблему, влияющую на исследователей безопасности и компании, использующие AI: защитные меры, предназначенные для блокировки вредоносного контента, могут непреднамеренно мешать судебному анализу и обороне во время кибератак. Похожие ограничения ранее отмечались компаниями, такими как Hugging Face. Эксперты утверждают, что нынешние ограничения AI-моделей могут создавать асимметрию, при которой злоумышленники сталкиваются с меньшими препятствиями, а защитники — с барьерами.

OpenCode пока не раскрыла конкретных деталей вектора атаки или полного масштаба нарушения. Компания и поставщики AI продолжают работать над локализацией инцидента. Эта утечка происходит на фоне роста глобальных киберугроз с использованием AI, включая недавние атаки с применением AI-инструментов тестирования на проникновение против финансовых учреждений.

В целом нарушение безопасности OpenCode Console иллюстрирует растущие проблемы кибербезопасности на стыке внедрения AI и меняющегося ландшафта угроз, подчеркивая необходимость улучшения систем защиты, которые сочетают операционную безопасность с возможностями расследования инцидентов.