Генеральный директор Microsoft Сатья Наделла призывает к встроенному ручному тормозу в моделях ИИ с самого начала

Image: 3DNews · Source

Сатья Наделла призывает к «аварийному тормозу» в развитии ИИ, выступая за рассмотрение систем ИИ как скомпрометированных с момента создания и немедленное применение строгих мер защиты.

В недавнем заявлении генеральный директор Microsoft Сатья Наделла подчеркнул необходимость введения более осторожных мер в развитии искусственного интеллекта. Он призвал к тому, что назвал «аварийным тормозом» в прогрессе ИИ, акцентируя важность переосмысления подхода к моделям ИИ с самого начала. Наделла предложил рассматривать модели ИИ изначально как скомпрометированные системы, требующие строгих проверок и контроля, встроенных с самых ранних этапов их проектирования. Такая проактивная позиция направлена на снижение рисков, связанных с технологиями ИИ, до их широкого распространения. Продвигая идею встроенных мер защиты и более оборонительной позиции при создании ИИ, Наделла подчеркивает необходимость постоянного надзора и ответственных инноваций. Этот взгляд совпадает с растущими призывами в технологической отрасли к усилению управления ИИ для предотвращения непреднамеренных последствий по мере быстрого развития этих технологий.