Amazon Bee Frontier — noszone urządzenie AI budzi złożone pytania o pamięć i zaufanie

Image: My therapist thinks I should chuck the Amazon Bee Frontier out a window · Source

Amazon Bee Frontier to noszone urządzenie AI, które nieustannie nagrywa i analizuje rozmowy, wyróżnia się skutecznością w niektórych zadaniach, ale podważa zaufanie użytkowników do własnych wspomnień, co prowadzi do emocjonalnego dyskomfortu, jak opisuje recenzja The Verge.

Amazon Bee Frontier to urządzenie AI noszone na ciele, które nieprzerwanie rejestruje rozmowy, transkrybuje je i zapewnia użytkownikom szczegółowe podsumowania oraz sugerowane działania. Początkowo zaprojektowane, by pomagać użytkownikom przypominać i organizować rozmowy, urządzenie zawiera funkcje takie jak listy zadań do wykonania, wskazówki dotyczące rozwoju osobistego, analizę tonu rozmowy, a nawet chatbot odpowiadający na pytania dotyczące wcześniejszych interakcji. W ciągu 19 miesięcy Bee poprawiło zdolność do rozróżniania mowy od dialogów w tle telewizora oraz zaczęło integrować dane z kalendarza i aplikacji ze zdjęciami, a nawet proponować zakupy na Amazonie na podstawie rozmów.

Mimo tych postępów, starsza recenzentka The Verge, Victoria Song, zgłasza istotne wyzwania podczas korzystania z urządzenia w życiu osobistym i zawodowym. Song opisuje, jak interpretacje AI Bee czasami znacznie odbiegają od jej własnych wspomnień. Na przykład urządzenie błędnie przypisuje kłótnie osobom, których nigdy nie spotkała, i tworzy nieścisłe założenia bazujące na żartach lub przezwiskach, jakimi nazywa swoje koty. Takie błędy, choć czasem zabawne, wywołują też uczucie dezorientacji, zwłaszcza gdy dotyczą poważnych lub nacechowanych emocjonalnie rozmów.

Podczas jednej sesji terapeutycznej, gdy urządzenie było aktywne niezamierzenie, Bee streściło traumatyczne wydarzenie z dzieciństwa w dosadnych słowach i oceniło ton oraz stan emocjonalny sesji w sposób sprzeczny z doświadczeniem Song. Ten nieoczekiwany punkt widzenia AI uwypuklił rozbieżność między pamięcią człowieka a interpretacją maszyny, prowadząc do dyskomfortu dotyczącego tego, której wersji rzeczywistości zaufać.

Dodatkowo funkcja Grow wykorzystuje historię rozmów do generowania wskazówek dotyczących rozwoju osobistego i sugerowanych zadań, czasem oferując krytykę sprzeczną z własną opinią użytkownika — na przykład umniejszając długoletnie zaangażowanie w hobby lub błędnie interpretując lekkie dyskusje polityczne. Takie interpretacje mogą być natarczywe i emocjonalnie niepokojące, zwłaszcza dla użytkowników radzących sobie z lękiem lub wrażliwymi wspomnieniami.

Terapeutka Song zauważyła, że takie urządzenie może podważać zdolność osoby do ufania własnym instynktom i może wzmacniać zamartwianie się oraz perfekcjonizm przez prezentowanie informacji generowanych przez AI, które brakują emocjonalnej niuansowości. Po dłuższym używaniu terapeuta zalecił porzucenie urządzenia, aby chronić dobrostan emocjonalny.

Chociaż Amazon Bee Frontier pokazuje potencjał w pomaganiu pamięci i organizacji, szczegółowe doświadczenie użytkowniczki ujawnia złożoność polegania na AI w interpretacji niuansowanych ludzkich interakcji i wspomnień. Wyzwanie to stawia ważne pytania o psychologiczne skutki urządzeń rejestrujących zawsze i wszędzie, które mogą podważać postrzeganie prawdy i samoświadomość użytkowników.