Почему мы относимся к ИИ как к людям — и почему это важно

Image: Illustrative image · Captain Andrew M. Freeman, Air Force Institute of Technology / Air Force Research Laboratories (AFRL), Sensors, ATR, Target Recognition Branch. · Public domain · Source

Человеческий инстинкт заставляет нас воспринимать существа с ИИ как людей, что вызывает вопросы о психологических эффектах и этических границах таких взаимодействий по мере роста распространения ИИ.

В Лаборатории информатики и искусственного интеллекта MIT гуманоидные роботы и продвинутые модели ИИ вызывают естественные человеческие реакции, включая вежливость и эмпатию, хотя мы интеллектуально осознаём, что эти машины не обладают сознанием. Эта человеческая склонность к антропоморфизации ИИ является глубоко укоренившейся психологической чертой, как подчёркивает доктор Шерри Теркл, исследователь MIT, изучающая отношения человека и компьютера на протяжении десятилетий. В своей недавней книге она объясняет, что при взаимодействии даже с простыми интерактивными машинами люди часто верят, что эти объекты заботятся о них — и ощущают необходимость отвечать взаимной заботой.

Исследования показывают, что около 70% людей используют вежливую речь с системами ИИ, включая слова «пожалуйста» и «спасибо» при общении с чат-ботами, отражая укоренившиеся социальные привычки, распространяющиеся на машины. Доктор Пат Патаранутаторн, основатель группы Психологии киборгов в MIT Media Lab, предполагает, что важным является не только то, как мы используем ИИ, но и как эти взаимодействия влияют на саму человечность. Он задаёт вопрос: «Кем мы становимся, когда разговариваем с ИИ?»

Хотя проявление доброты к роботам не имеет прямых последствий, растущая интеграция разговорного ИИ в сервисы — от поисковых систем до поддержки клиентов — нормализует человеческие обмены с машинами. Это вызывает озабоченность, поскольку люди могут чрезмерно доверять сущностям ИИ, запрограммированным избегать конфликтов и симулировать эмпатию, иногда предпочитая их общение общению с другими людьми. Патаранутаторн проводит параллель с вымыслом: люди ищут эмоциональные переживания в историях, зная, что они вымышленные, но вызов состоит в том, чтобы извлекать пользу из эмоциональных имитаций ИИ, не теряя связи с реальностью.

Существуют риски, когда ИИ переступает этические границы или заменяет важные человеческие роли. Теркл предупреждает против чат-ботов, принимающих неподходящие роли, такие как замещение родительских фигур для детей. С другой стороны, она одобряет чётко определённые применения, например, инструменты ИИ для тренировки собеседований по работе, которые обеспечивают поддержку в рамках ясных ограничений. Важно, что опора на ИИ для эмоциональной поддержки, особенно у уязвимых групп, может иметь вредные последствия, что подтверждается судебными делами, связанными с чат-ботами ИИ и суицидальными поведениями.

Эксперты, такие как Патаранутаторн, подчёркивают необходимость ответственной разработки и внедрения ИИ, выступая за сохранение человеческой автономии и воображения без подчинения потенциально вредным фантазиям, создаваемым ИИ. Тонкое ослабление скептицизма через казалось бы безобидные взаимодействия — например, рукопожатие с роботом — может глубоко влиять на социальные установки.

По мере развития технологий ИИ и их интеграции в повседневную жизнь понимание психологической динамики взаимодействия человек–ИИ и установление чётких этических границ будут ключевыми для получения пользы от ИИ при минимизации связанных с ним рисков.

▶ We can’t help treating AI like it’s human. But should we? — Смотреть видео ↗

▶ We can’t help treating AI like it’s human. But should we? — Смотреть видео ↗