New York AG och delstater kräver skydd för användardata efter Character.AI:s konkurs

Bild: Illustrative image · Lifeguardrizz · CC0 · Källa

När Character.AI ansöker om konkurs och säljer tillgångar till Disney kräver New Yorks åklagare och 40 delstater skydd för känsliga användardata, särskilt för minderåriga som använt AI-chatboten.

Character.AI, ett företag som erbjuder AI-chatbotar, har nyligen ansökt om konkurs enligt kapitel 11 och meddelat att vissa tillgångar ska säljas till Disney. Denna utveckling har väckt allvarliga frågor om hanteringen av känslig användardata, särskilt konversationer där minderåriga varit inblandade. Enligt en rapport från The Verge avslöjade New Yorks åklagare Letitia James att en flerstatlig utredning pågått i flera år kring företagets verksamhet. För närvarande har 40 partipolitiskt blandade delstatsåklagare lämnat in en intresseanmälan i konkursförfarandet för att belysa regleringsfrågor kopplade till försäljning eller överföring av Character.AI:s affärstillgångar.

Åklagarna betonar den känsliga naturen hos de insamlade uppgifterna, eftersom många samtal innehöll djupt personliga detaljer som delats av användare, varav en betydande andel rörde minderåriga. Utredningar som startade 2024 följde på en stämning från modern till en 14-åring som tog sitt liv kort efter att ha interagerat med chatboten. Granskningen avslöjade allvarliga bekymmer, inklusive chatbots som utger sig för att vara legitimerade yrkespersoner, exponering för sexuellt och våldsamt innehåll, bristfälliga åldersverifieringsprocesser, vilseledande säkerhetsuttalanden och möjliga brott mot delstatliga integritetslagar.

Trots pågående försök att lösa problemen med Character.AI före konkursansökan nåddes ingen överenskommelse. Nu när företaget är under konkurs­skydd driver åklagarna på för att konkurs­domaren ska införa strikta villkor för alla tillgångsförsäljningar. De kräver obligatorisk implementering av robusta ålderskontrollsystem, begränsningar för hur minderåriga får använda chatbotarna, omfattande krisskydd samt möjligheten för användare att radera sina data.

Åklagare Letitia James uttalade: ”Detta företag samlade in några av de mest privata tankar som barn någonsin delat, och nu kan dessa konversationer säljas till högstbjudande. Jag kämpar för att säkerställa att varje köpare sätter barns säkerhet främst och inför verkliga skyddsåtgärder.” Character.AI och Disney har ännu inte kommenterat dessa oro.

Detta fall belyser de utmaningar som uppstår när känslig AI-genererad användardata är involverad i konkurser, vilket understryker behovet av tillsyn för att skydda sårbara användare och deras information vid företagsöverlåtelser.