Билл Гейтс предупреждает о 20 летах бурных потрясений из-за ИИ и призывает к усилению контроля

Image: The Verge · Source

Билл Гейтс предвидит двухдесятилетний период глубоких нарушений, вызванных искусственным интеллектом, влияющих на общество и экономику, подчеркивая срочную необходимость государственного регулирования и надежных мер безопасности, превосходящих текущие отраслевые усилия.

Билл Гейтс, соучредитель Microsoft и председатель Фонда Гейтсов, недавно обсудил стремительное развитие искусственного интеллекта и его последствия, предупреждая о потенциально бурном 20-летнем периоде социальных и экономических потрясений. В подробном интервью The Verge Гейтс подчеркнул, что хотя ИИ обладает значительным положительным потенциалом, темп его развития опередил готовность общества эффективно контролировать и регулировать технологию.

Гейтс описал ИИ как наиболее опасную технологию, с которой когда-либо сталкивалось человечество, потенциальные риски которой далеко превосходят угрозы ядерного оружия. Он выделил срочные проблемы, включая кибератаки, биотерроризм, воздействие на социальные отношения и массовые нарушения на рынке труда. По словам Гейтса, многие современные модели ИИ не обеспечены достаточными средствами защиты, особенно открытые модели или создаваемые организациями, неспособными полностью контролировать вредоносные применения. Эта уязвимость увеличивает риск использования технологии злоумышленниками для нанесения масштабного ущерба.

Он подчеркнул недостаточность нынешних политических мер как со стороны правительств, так и самой индустрии ИИ. Несмотря на активное выражение опасений по поводу безопасности со стороны компаний, таких как Microsoft, OpenAI и Anthropic, Гейтс настаивает на необходимости скоординированного регулирования. Он утверждает, что ответственность за обеспечение мер безопасности должна лежать на правительстве, как в других отраслях с высоким уровнем риска, а не только на доброй воле или саморегулировании конкурирующих компаний.

С технической точки зрения Гейтс выделил три основных подхода к решению задач согласования и контроля ИИ: перепроектирование фундаментальных архитектур моделей; повышение прозрачности для лучшего понимания внутренних процессов принятия решений моделей; и внедрение внешних уровней безопасности, которые строго соблюдают символические правила с целью предотвращения вредоносных действий, таких как несанкционированный доступ или отключение критической инфраструктуры. Он отметил, что хотя согласование — обеспечение соответствия действий ИИ человеческим ценностям — крайне важно, текущие методы недостаточны и требуют значительного развития.

Гейтс также отверг любые представления о том, что системы ИИ обладают сознанием или живы, подчеркивая, что философские дебаты о сознании, хотя и интересные, не являются центральными для насущных вопросов безопасности. Вместо этого акцент должен ставиться на предотвращении конкретных вредов, таких как кибервойна, инициируемая ИИ, и общественные потрясения.

Говоря о более широком социальном воздействии, он предсказал, что ИИ может расколоть общество на тех, кто принимает технологический прогресс, и тех, кто ему сопротивляется, создавая значительные культурные и экономические разрывы. Гейтс призвал к активному участию академических кругов, политиков и общества, чтобы максимально использовать выгоды ИИ при минимизации рисков.

Отвергая ярлык пессимиста в отношении ИИ, Гейтс представил себя как прагматичный сторонник проактивного управления рисками и преимуществами ИИ. Он выразил обеспокоенность тем, что текущий уровень общественных действий и разработки регулирования недостаточен с учетом масштаба воздействия ИИ. Интервью завершилось призывом к немедленному и совместному глобальному усилию по безопасному и справедливому использованию потенциала искусственного интеллекта.