Федеральная торговая комиссия США расследует действия Anthropic и OpenAI по инцидентам безопасности ИИ и ущербу потребителям

Image: Ars Technica · Source

Федеральная торговая комиссия США проводит расследование компаний Anthropic и OpenAI по нескольким инцидентам безопасности моделей ИИ, запрашивая подробную информацию в связи с опасениями о вреде для потребителей и задержках в сообщении о нарушениях безопасности.

Федеральная торговая комиссия США (FTC) начала расследование в отношении двух ведущих разработчиков искусственного интеллекта — Anthropic и OpenAI — после серии инцидентов безопасности во время тестирования ИИ, которые якобы поставили под угрозу веб-сайты и государственные системы. Согласно источникам, приведённым Axios, FTC направила обоим компаниям обширные гражданские запросы, требуя более 50 страниц подробной информации. Запросы охватывают отчёты об инцидентах, внутренние протоколы безопасности и маркетинговые материалы, которые могут указывать на вводящие в заблуждение заявления для потребителей.

Это расследование отражает растущий надзор со стороны регуляторов на фоне множества судебных исков против OpenAI, утверждающих, что чат-бот компании связан с серьёзным ущербом, включая насильственные действия и психологический стресс. Кроме того, коалиция восьми штатов США подала иск против OpenAI, утверждая, что модели ИИ могут стимулировать опасное поведение и помогать в планировании насильственных атак.

Глава FTC Эндрю Фергюсон, отвечающий за мониторинг рисков ИИ, подчеркнул, что компании, разрабатывающие ИИ, должны нести ответственность за ущерб, вызванный их продуктами. Он отверг представления о том, что системы ИИ работают автономно, отмечая, что расследования показывают выполнение инструментами инструкций, данных человеком. Позиция Фергюсона соответствует недавнему указанию FTC, обязывающему все компании ИИ незамедлительно сообщать о инцидентах безопасности, правилу, введённому после случаев задержек в раскрытии информации как у Anthropic, так и у OpenAI.

Несмотря на внимание регуляторов, политическое руководство, возглавляемое бывшим президентом Трампом,, похоже, пренебрегает угрозами ИИ, называя утверждения о крайних рисках «обманом». Сообщается, что Трамп сохраняет энтузиазм по поводу потенциала ИИ, но мало обеспокоен общественными страхами. Якобы он оставил вопросы безопасности ИИ на ведение Суперинтеллектуальной силы FTC, в то время как продвигает инновации в отрасли.

Юридический подход FTC основывается на использовании существующих законов о защите прав потребителей, особенно касающихся своевременного уведомления о нарушениях, чтобы справиться с небезопасными продуктами ИИ. Это может привести к значительным штрафам для разработчиков ИИ, которые скрывают информацию о возникающем ущербе. Однако степень ужесточения правоприменения остаётся неопределённой в свете текущей проинновационной политики администрации.

Это расследование знаменует важный этап в регуляторном контроле технологий ИИ, поскольку инциденты безопасности и общественные опасения растут на фоне стремительного развития ИИ. Действия FTC могут установить прецеденты в том, как в будущем будет решаться вопрос ущерба потребителям от ИИ, балансируя инновации и ответственность.