Anthropic предлагает законопроект о безопасности ИИ, ограничивающий выпуск моделей при катастрофических рисках

Image: TechCrunch · Source

Anthropic подготовила законопроект о безопасности ИИ, направленный на блокировку выпуска моделей ИИ, представляющих непосредственную катастрофическую опасность, например, более 50 смертей или миллиарды убытков, требуя судебного одобрения для приостановки внедрения.

На фоне растущих опасений по поводу потенциальных угроз искусственного интеллекта, лаборатория ИИ Anthropic представила проект закона, сосредоточенного на безопасности ИИ, предлагая новую систему регулирования продвинутых систем ИИ. Согласно отчету Politico, предложенное законодательство Anthropic нацелено на предотвращение выпуска моделей ИИ, которые представляют «предсказуемый, непосредственный риск» катастрофических последствий.

Законопроект устанавливает конкретные пороги таких рисков, включая сценарии, в которых выпуск модели ИИ может привести к смерти более 50 человек или вызвать ущерб в более чем миллиард долларов. Эти последствия должны возникать из событий, таких как создание или применение биологического оружия, выход модели ИИ из-под контроля разработчиков или участие в кибератаке. Эти критерии напоминают недавнее законодательство Калифорнии (Senate Bill 53), которое аналогично определяет катастрофические риски, требующие регулирования.

Для оценки, представляет ли модель ИИ такие риски, Anthropic предлагает использовать «независимых оценщиков», зарегистрированных в Министерстве торговли США. Эти оценщики, возможно финансируемые компаниями ИИ, но без условий оплаты, зависящих от результатов оценок, должны проводить проверку моделей на риск. Если они определят неминуемую катастрофическую угрозу, они обязаны в течение 72 часов уведомить Министерство торговли. После этого Министерство торговли должно обратиться за одобрением судьи в Вашингтоне для блокировки выпуска модели. Примечательно, что законопроект запрещает любому федеральному агентству самостоятельно останавливать внедрение модели ИИ без судебного согласия.

Эта система контрастирует с более саморегулируемыми подходами, предпочитаемыми некоторыми частями индустрии ИИ. Несмотря на предупреждения о экзистенциальных рисках, многие компании неохотно принимают обязательный надзор, предлагая вместо этого добровольный мониторинг независимыми оценщиками, встроенными в организации ИИ. Проект закона Anthropic, который они продвигают с июня 2026 года среди федеральных и штатных законодателей в рамках своей Программы по продвинутому ИИ, представляет более решительное нормативное предложение по сравнению с некоторыми конкурентами, такими как Nvidia, которая недавно выступала против необходимости новых законов об ИИ.

Хотя ссылки в законопроекте на катастрофические риски, связанные с массовыми жертвами или значительным материальным ущербом, являются более экстремальными, чем общее внимание отрасли к таким вопросам, как агентное взлом — когда ИИ действует автономно, чтобы нарушить безопасность, — предлагаемая мера направлена на предотвращение серьезных последствий. Акцент на судебном надзоре и независимой оценке отражает попытку сбалансировать инновации в области ИИ с гарантиями безопасности.

Anthropic не предоставила подробных публичных комментариев, подтвердив лишь существование проекта Politico. Подход компании указывает на готовность активно участвовать в формировании управления ИИ, хотя реакция Конгресса и других заинтересованных сторон ИИ еще не определена. По мере продолжения дискуссий о регулировании, законопроект Anthropic вносит вклад в эволюцию дебатов о том, как лучше управлять рисками ИИ, одновременно поощряя технологический прогресс.