Amazon Bee Frontier AI kantav seade tõstatab keerulisi küsimusi mälust ja usaldusest

Pilt: My therapist thinks I should chuck the Amazon Bee Frontier out a window · Allikas

Amazon Bee Frontier on pidevalt salvestav AI kantav seade, mis transkribeerib ja analüüsib vestlusi ning mis on mõnes tegevuses väga tõhus, kuid tekitab kasutajates kahtlusi enda mälus ning põhjustab emotsionaalset stressi, nagu kirjeldab The Verge'i ülevaade.

Amazon Bee Frontier on tehisintellektiga varustatud kantav seade, mis salvestab pidevalt vestlusi, transkribeerib need ning pakub kasutajatele detailseid kokkuvõtteid ja soovitatud tegevusi. Alguses loodud selleks, et aidata kasutajatel meenutada ja korraldada vestlusi, sisaldab seade selliseid funktsioone nagu asjakohaste tegevuste nimekirjad, isikliku arengu soovitused, toonianalüüs ja isegi vestlusrobot, mis vastab küsimustele varasemate suhtluste kohta. Üle 19 kuu on Bee parandanud võimet eristada kõnet taustal mängivast televisioonist ning nüüd integreerib ka kalendri- ja fotode rakenduse andmeid ning soovitab Amazonist oste vestluste põhjal.

Hoolimata neist arengutest teatab The Verge'i vanemülevaataja Victoria Song seadme kasutamisel nii isiklikus kui ka töises elus olulistest väljakutsetest. Song kirjeldab, kuidas Bee AI tõlgendused erinevad tihti selgelt tema enda mälestustest. Näiteks seade omistab vaidlusi inimestele, kellega tal pole kunagi olnud kokkupuudet, ning loob ebatäpseid järeldusi juhuslike naljade või kasside hüüdnimede põhjal. Sellised vead, kuigi mõnikord naljakad, põhjustavad segadust, eriti kui need esinevad tõsiste või emotsionaalselt laetud vestluste puhul.

Ühes teraapiasessioonis, kus seade oli tahtmatult aktiivne, võttis Bee kokku lapsepõlvetraumaatilise sündmuse teravates sõnades ning kirjeldas sessiooni tooni ja emotsionaalset seisundit viisil, mis kontrasteerus Song kogemusega. See ootamatu AI perspektiiv tõi esile lõhe inimliku mälu ja masina tõlgenduse vahel, põhjustades ebamugavust selle osas, millist reaalsuse versiooni usaldada.

Veelgi hullemaks tegi olukorra Grow funktsioon, mis kasutab vestlusajaloo põhjal isikliku arengu nõuandeid ja soovitatud tegevusi, pakkudes vahel kriitikat, mis on vastuolus kasutaja enda vaadetega — näiteks alahindades pikaaegset pühendumust hobidele või tõlgendades kergekäelisi poliitilisi arutelusid valesti. Need tõlgendused võivad tunduda pealetükkivad ja emotsionaalselt häirivad, eriti kasutajatele, kes haldavad ärevust või tundlikke mälestusi.

Songi terapeut märkis, et selline seade võib alandada inimese võimet usaldada oma intuitsiooni ning süvendada järelemõtlemist ja täiuslikkusihaldust, esitades AI genereeritud arusaamu, mis puuduvad emotsionaalsest nüansist. Pikaajalisel kasutamisel soovitas terapeut seadme äraviskamist emotsionaalse heaolu kaitsmiseks.

Kuigi Amazon Bee Frontier näitab potentsiaali mälestuste ja korralduse abistamisel, paljastab see üksikasjalik kasutajakogemus AIle toetumise keerukused nüansirikkate inimlike suhete ja mälestuste tõlgendamisel. See tõstatab olulisi küsimusi pidevalt salvestavate seadmete psühholoogilise mõju kohta, mis võivad seada kahtluse alla kasutajate tõetunnetuse ja enese mõistmise.