Генеральный директор Microsoft Сатья Наделла призывает к аварийному торможению и архитектуре доверия в моделях ИИ

Image: TechCrunch · Source

Генеральный директор Microsoft Сатья Наделла призывает к переоценке безопасности ИИ, выступая за управление рисками через аварийное торможение и прозрачную документацию.

Генеральный директор Microsoft Сатья Наделла публично подчеркнул срочную необходимость усиления механизмов безопасности и доверия в системах искусственного интеллекта. В заявлении, опубликованном на платформе X 10 октября 2026 года, Наделла предложил изменить текущий подход, при котором ИИ, или «Суперинтеллект», как он это называет, рассматривается как непрозрачные «вложенные чёрные ящики». Вместо этого он выступает за чёткое разделение между моделями ИИ и рамками, регулирующими их работу, что позволит обеспечить более эффективный контроль.

Наделла изложил несколько ключевых предложений для более безопасного будущего ИИ. В центре его видения — реализация внешних контролей и мер безопасности, регулирующих поведение ИИ, а также требование, чтобы каждое важное решение ИИ сопровождалось нечитаемыми для подделки, человеком воспринимаемыми доказательствами. Такая прозрачность обеспечит ответственность и прослеживаемость результатов ИИ.

Особенно важно, что Наделла призвал внедрить механизм, аналогичный «аварийному тормозу» — систему, созданную с предположением, что любой ИИ-модель может быть скомпрометирована, и предоставляющую уполномоченным лицам возможность приостанавливать или полностью отключать модели ИИ во время их работы. Такой контроль может предотвратить непреднамеренные или вредоносные последствия, обеспечивая возможность вмешательства в реальном времени.

Эти замечания прозвучали на фоне роста признания в индустрии проблем управления продвинутыми моделями ИИ. В частности, генеральный директор Anthropic Дарио Амодеи недавно предложил дорожную карту для более осторожной разработки ИИ, что отражает возросшие опасения лидеров ИИ по вопросам безопасности и этики.

Призыв Наделлы «отойти и оценить архитектуру доверия» моделей ИИ подчёркивает стремление Microsoft заблаговременно решать вопросы безопасности ИИ, что может повлиять на более широкие отраслевые практики и регулирующие подходы.