Папа Лев XIV призывает к глобальному разоружению ИИ и отвергает юридическую личность ИИ

Image: Pope Leo calls for the disarmament of AI: ‘Machines are tools, not persons’ · Source

В недавней папской речи Папа Лев XIV призвал ООН запретить летальное автономное оружие и предупредил о рисках предоставления ИИ юридической личности, подчеркивая необходимость человеческого контроля и этической ответственности в разработке и применении ИИ.

Папа Лев XIV публично призвал к международным действиям против милитаризации и неконтролируемого развития искусственного интеллекта в значительном выступлении перед мировыми лидерами. Подчеркивая, что «машины — это инструменты, а не личности», он выступил за «разоружение» систем ИИ, особенно призывая государства-члены Организации Объединенных Наций ввести запрет на летальное автономное оружие. Этот призыв был сделан накануне предстоящей встречи ООН в Женеве, где в повестке дня стоят ядерное разоружение и этика ИИ.

Послание Папы подчеркивает моральный императив сохранить контроль человека над технологиями ИИ, заявляя, что решения, касающиеся человеческой жизни, свободы и применения силы, «всегда должны находиться под эффективным, информированным и ответственным человеческим надзором.» Он предупредил о опасном прецеденте предоставления системам ИИ прав или юридической личности, что согласуется с его более широкой позицией, изложенной в энциклике мая, посвященной «сохранению человеческой личности во время эпохи искусственного интеллекта.»

Эта позиция продолжает традицию, установленную Папой Франциском в 2024 году, который также призвал к запрету автономного оружия и подтвердил, что «никакая машина никогда не должна принимать решение о лишении человека жизни.» Выбор имени Лев папой отражает его признание необходимости противостояния эпохальным технологическим изменениям, проводя параллель с Папой Львом XIII, руководившим во время промышленной революции.

Завершая свое выступление, Папа Лев призвал международные институты создавать и обеспечивать «общие стандарты, независимый надзор и четкие механизмы подотчетности» в развитии ИИ. Он подчеркнул, что такие рамки необходимы, чтобы гарантировать возможность проверки решений, связанных с ИИ, их юридического оспаривания при необходимости и обеспечения компенсаций за причиненный вред.

Вмешательство понтифика подчеркивает этические проблемы, связанные с растущей ролью ИИ, особенно в системах автономного оружия, призывая к глобальному сотрудничеству для балансирования технологического прогресса с защитой человеческого достоинства и безопасности.