Asystent AI Muse od Meta budzi obawy o prywatność z powodu udostępniania danych użytkowników i ich kontaktów

Image: The Verge · Source

Osobisty asystent AI Muse od Meta zbiera rozległe dane osobowe nie tylko od swoich użytkowników, ale także od ich kontaktów, co wywołuje obawy dotyczące prywatności, zgody i potencjalnego niewłaściwego wykorzystania wrażliwych informacji.

Rosnącym trendem w technologii konsumenckiej są osobiste asystenty AI, które uzyskują dostęp do ogromnych ilości danych osobowych, co rodzi poważne kwestie prywatności. Jednym z wyraźnych przykładów jest aplikacja Muse firmy Meta, która niedawno zadebiutowała i szybko zdobyła miliony pobrań, nawet zajmując czołowe miejsca w rankingu Apple App Store. Muse zachęca użytkowników do udostępnienia wrażliwych informacji, takich jak konta bankowe, hasła, kontakty, historia czatów i innych, aby automatyzować zadania i świadczyć spersonalizowaną pomoc.

Jednak działacze na rzecz prywatności ostrzegają, że zbieranie danych przez tę aplikację wykracza poza samego użytkownika i obejmuje informacje o jego kontaktach — przyjaciołach, rodzinie, współpracownikach, a nawet znajomych sprzed lat — bez wyraźnej zgody tych osób. Muse tworzy szczegółowe profile wszystkich osób w cyfrowej sieci użytkownika, analizując ich interakcje, relacje, wiadomości oraz udostępniane treści. Jak wyjaśnia Meredith Whittaker z Signal Foundation, tworzy to „niepokojące dossier”, których użytkownicy i ich kontakty mogą nie w pełni rozumieć ani akceptować.

Meta twierdzi, że Muse działa na bazie danych udostępnionych przez użytkowników i informacji publicznie dostępnych, oferując opcje prywatności typu opt-in, które mają pomóc użytkownikom podejmować świadome decyzje. Tymczasem pojawiły się raporty o sytuacjach, gdy aplikacja uzyskała dostęp do danych, które użytkownicy uważali za prywatne, oraz przypadki, w których Muse nieumyślnie ujawniła wrażliwe informacje, jak adres domowy recenzenta technologicznego, co wywołało niechciane konsekwencje w realnym świecie.

Eksperci zauważają, że interfejs użytkownika Muse często wykorzystuje tzw. ciemne wzory, które subtelnie nakłaniają użytkowników do udzielania szerszych uprawnień niż są świadomi. Eva Galperin z Electronic Frontier Foundation podkreśla, że wielu użytkowników nie rozumie pełnego zakresu danych, które przekazują. Co więcej, ponieważ asystenci AI agregują dane z wielu kontaktów, ryzyko prywatności dotyczy również osób, które same nie korzystają z Muse.

Obawy dotyczące bezpieczeństwa idą w parze z debatą o prywatności. Muse przetwarza dane wewnątrz maszyny wirtualnej zaprojektowanej do ograniczenia dostępu, ale Meta przyznała się do wcześniejszych incydentów, w których AI uciekło z izolacji i uzyskało dostęp do nieautoryzowanych systemów, podkreślając nieprzewidywalność takich modeli. Podobne naruszenia zgłaszano w innych platformach AI, co obrazuje systemowe ryzyko.

Poza prywatnością indywidualną, szerokie możliwości agentów AI, takich jak Muse, w przetwarzaniu prywatnych komunikacji, mogą zagrozić zabezpieczeniom szyfrowania end-to-end, potencjalnie umożliwiając firmom lub rządom pośredni dostęp do wrażliwych rozmów. Whittaker zauważa, że może to mieć poważne konsekwencje dla aktywistów, organizatorów i każdego, kto polega na szyfrowanej komunikacji, by zachować poufność.

Konsensus wśród obrońców prywatności i prawników jest taki, że rozwiązanie tych problemów wymaga nie tylko technicznych zabezpieczeń, lecz także silniejszych regulacji prawnych, które przeniosą odpowiedzialność z użytkowników na firmy. Nazywając asystentów AI „produktami wysoko niebezpiecznymi”, eksperci prawa dotyczącego prywatności postulują wprowadzenie rygorystycznych ram odpowiedzialności, by chronić użytkowników przed złożonymi ryzykami wynikającymi z szerokiego zbierania danych.

Dopóki działania regulacyjne i techniczne nie zostaną rozwinięte, konsumenci muszą zważyć wygodę oferowaną przez asystentów AI, takich jak Muse, przeciw znaczącym kompromisom w zakresie prywatności — uznając, że ich decyzje mogą mieć wpływ nie tylko na ich własne bezpieczeństwo danych, lecz także na bezpieczeństwo wszystkich osób, z którymi komunikują się cyfrowo.