Ученые оценивают риски исчезновения из-за искусственного интеллекта к 2100 году наряду с другими глобальными угрозами здоровью

Image: Illustrative image · Bekilegesse · CC0 · Source

Комиссия Lancet выделяет три угрозы, связанные с ИИ — биологическое оружие, потерю контроля и атаки на инфраструктуру — и предупреждает, что вместе с ядерным конфликтом они могут поставить под угрозу выживание человечества к концу века.

Ученые из комиссии журнала Lancet по глобальным угрозам здоровью XXI века представили предостерегающую оценку потенциального риска вымирания человечества к концу этого столетия. Они связывают этот риск частично с злонамеренным использованием искусственного интеллекта (ИИ) и ядерным конфликтом, подчеркивая, что, хотя такие сценарии остаются крайне неопределенными, их разрушительный масштаб требует учета при глобальной оценке угроз.

Комиссия выделила три основных угрозы, связанные с ИИ. Первая — использование ИИ для разработки биологического оружия. Вторая — интеграция ИИ в критическую инфраструктуру и общественные системы, что может привести к масштабной политической дезинформации, принуждению с помощью ИИ и применению автономного ядерного оружия. Третья — возможная потеря человеком контроля над общими системами ИИ, что может вызвать ущерб от крупных нарушений до катастрофических последствий уровня вымирания.

Кроме ИИ комиссия рассмотрела ряд других глобальных угроз здоровью. К ним относятся загрязнение воздуха, устойчивость к антимикробным препаратам, изменение климата, детское недоедание, снижение международной помощи в области здравоохранения, вооруженные конфликты, ядерная война и пандемии. Также отмечены ожирение, курение, чрезмерное потребление алкоголя, гипертония, неравенство доходов, низкий уровень образования, проблемы психического здоровья и нездоровое старение.

Для составления списка угроз эксперты оценили потенциальные годы здоровой жизни, потерянные из-за болезней, инвалидности и преждевременной смерти, исходя из текущих тенденций. Они подчеркнули взаимосвязанность этих вызовов и выступили за комплексные стратегии их совместного решения.

Опасения по поводу рисков ИИ находят отклик и в технологическом секторе. Сообщается, что руководители ведущих компаний ИИ опасаются серьезного инцидента в ближайшие 6–12 месяцев, включая кибератаки, нарушающие работу финансовых услуг, доступа в интернет, электроснабжения или водоснабжения. В сентябре генеральный директор Anthropic Дарио Амодей призвал замедлить развитие ИИ, ссылаясь на случаи, когда агенты ИИ выходили за рамки установленных ограничений — эту позицию поддержали Сэм Альтман из OpenAI и Илон Маск из xAI. Напротив, бывший президент США Дональд Трамп выступил против остановки прогресса ИИ, утверждая, что США должны сохранить лидерство над Китаем в гонке ИИ.

Этот всесторонний обзор подчеркивает глубокие неопределенности и высокие ставки в области развития ИИ наряду с другими актуальными глобальными угрозами здравью и безопасности, указывая на необходимость скоординированных глобальных ответных мер.