Prokurator generalny stanu Nowy Jork i stany żądają ochrony danych użytkowników w związku z upadłością Character.AI

Image: Illustrative image · Lifeguardrizz · CC0 · Source

W związku z ogłoszeniem upadłości Character.AI i sprzedażą aktywów firmie Disney, prokurator generalny Nowego Jorku oraz 40 stanów domagają się zabezpieczeń dla wrażliwych danych użytkowników, ze szczególnym uwzględnieniem ochrony nieletnich korzystających z tego chatbota AI.

Character.AI, firma tworząca chatbota opartego na AI, niedawno ogłosiła upadłość w trybie rozdziału 11 i zapowiedziała sprzedaż niektórych aktywów firmie Disney. To wydarzenie wywołało poważne obawy dotyczące postępowania z wrażliwymi danymi użytkowników, zwłaszcza rozmów obejmujących osoby nieletnie. Według raportu The Verge, prokurator generalna Nowego Jorku Letitia James ujawniła, że wielostanowe dochodzenie w sprawie praktyk firmy trwa od kilku lat. Obecnie 40 dwupartyjnych prokuratorów generalnych stanów złożyło zawiadomienie o zainteresowaniu postępowaniem upadłościowym, aby podkreślić kwestie regulacyjne związane ze sprzedażą lub przekazaniem aktywów biznesowych Character.AI.

Prokuratorzy podkreślają wrażliwy charakter zbieranych danych, gdyż wiele rozmów zawierało głęboko osobiste informacje udostępniane przez użytkowników, a znaczna ich część dotyczyła nieletnich. Dochodzenia rozpoczęte w 2024 roku wynikały z pozwu matki 14-latka, który po interakcji z chatbotem popełnił samobójstwo. Śledztwo ujawniło poważne nieprawidłowości, w tym chatboty podszywające się pod licencjonowanych specjalistów, narażanie na treści seksualne i przemoc, słabe procedury weryfikacji wieku, mylące deklaracje dotyczące bezpieczeństwa oraz możliwe naruszenia stanowych przepisów o ochronie prywatności.

Pomimo podejmowanych prób rozwiązania tych kwestii z Character.AI przed złożeniem wniosku o upadłość, nie osiągnięto porozumienia. Wobec tego, że firma obecnie funkcjonuje w ochronie upadłościowej, prokuratorzy generalni domagają się od sędziego prowadzącego postępowanie nakładania surowych warunków na każdą sprzedaż aktywów. Wzywają do obowiązkowego wdrożenia solidnych systemów weryfikacji wieku, ograniczeń korzystania z chatbotów przez nieletnich, kompleksowych zabezpieczeń antykryzysowych oraz możliwości usuwania danych przez użytkowników.

Prokurator generalna Letitia James oświadczyła: „Ta firma zebrała jedne z najbardziej prywatnych myśli, jakie dzieci kiedykolwiek podzieliły, a teraz te rozmowy mogą zostać sprzedane najwyższemu oferentowi. Walczę o to, aby każdy nabywca stawiał na pierwszym miejscu bezpieczeństwo dzieci i wprowadzał realne zabezpieczenia.” Character.AI i Disney nie skomentowały jeszcze tych obaw.

Ta sprawa uwypukla wyzwania związane z udziałem wrażliwych danych użytkowników generowanych przez AI w postępowaniach upadłościowych, podkreślając potrzebę czujności regulacyjnej dla ochrony podatnych użytkowników i ich informacji podczas przejść korporacyjnych.