Amazon Bee Frontier — носимое устройство ИИ поднимает сложные вопросы памяти и доверия

Image: My therapist thinks I should chuck the Amazon Bee Frontier out a window · Source

Amazon Bee Frontier — носимое устройство с ИИ, постоянно записывающее и анализирующее разговоры, эффективно выполняет некоторые задачи, но ставит под сомнение доверие пользователей к собственной памяти, вызывая эмоциональный дискомфорт, как подробно описано в обзоре The Verge.

Amazon Bee Frontier — это носимое устройство с искусственным интеллектом, которое непрерывно записывает разговоры, транскрибирует их и предоставляет пользователям подробные сводки и рекомендованные действия. Изначально разработанное для помощи пользователям в запоминании и организации разговоров, устройство включает функции такие, как списки дел, рекомендации по личному развитию, анализ интонации и даже чат-бот, который отвечает на вопросы о прошлых взаимодействиях. За 19 месяцев Bee усовершенствовало способность отличать речь от звуков телевизора на фоне и интегрировало данные из календаря и приложений для фотографий, даже предлагая покупки на Amazon на основе разговоров.

Несмотря на эти достижения, старший обозреватель The Verge Виктория Сонг сообщила о значительных трудностях при использовании устройства в личной и профессиональной жизни. Сонг описывает, как интерпретации ИИ Bee иногда резко отличаются от её собственных воспоминаний. Например, устройство ошибочно приписывает споры людям, которых она никогда не встречала, и создаёт неверные предположения, исходя из случайных шуток или прозвищ, которыми она называет своих котов. Такие ошибки, хотя иногда и юмористичны, вызывают чувство дезориентации, особенно в серьёзных или эмоционально насыщенных разговорах.

Во время одной терапевтической сессии, когда устройство оставалось активным по ошибке, Bee изложило травматическое событие из детства резкими словами и оценило тон и эмоциональное состояние сессии так, что эти оценки противоречили опыту Сонг. Эта неожиданная перспектива ИИ подчеркнула разрыв между человеческой памятью и машинной интерпретацией, вызывая дискомфорт в выборе, какой версии реальности доверять.

Кроме того, функция Grow использует историю разговоров для создания советов по личностному росту и предложений дел, иногда давая критику, которая противоречит собственному мнению пользователя — например, преуменьшая долгосрочную приверженность хобби или неверно интерпретируя лёгкие политические дискуссии. Такие интерпретации могут казаться навязчивыми и эмоционально тревожными, особенно для пользователей, борющихся с тревогой или чувствительными воспоминаниями.

Терапевт Сонг отметил, что такое устройство может подорвать способность человека доверять своим инстинктам и способствовать зацикливанию и перфекционизму, предоставляя ИИ-генерируемые выводы без эмоциональных нюансов. После длительного использования терапевт рекомендовал отказаться от устройства для защиты эмоционального благополучия.

Хотя Amazon Bee Frontier демонстрирует потенциал в помощи памяти и организации, этот подробный пользовательский опыт выявляет сложности зависимости от ИИ в интерпретации тонких человеческих взаимодействий и воспоминаний. Это поднимает важные вопросы о психологическом воздействии постоянно работающих записывающих устройств, которые могут ставить под сомнение восприятие правды и самоидентификацию пользователей.