New Yorks riksadvokat og delstater søker beskyttelse for brukerdata i Character.AI-konkurs

Bilde: Illustrative image · Lifeguardrizz · CC0 · Kilde

Etter at Character.AI har søkt konkurs og solgt eiendeler til Disney, krever New Yorks riksadvokat og 40 delstater tiltak for å beskytte sensitive brukerdata, spesielt for mindreårige som har brukt AI-chatbot-tjenesten.

Character.AI, et AI-chatbot-selskap, har nylig søkt om kapittel 11-konkurs og annonsert salg av noen eiendeler til Disney. Denne utviklingen har skapt alvorlig bekymring rundt håndteringen av sensitiv brukerdata, spesielt samtaler som involverer mindreårige. Ifølge en rapport fra The Verge opplyste New Yorks riksadvokat Letitia James at en flerstatlig etterforskning har pågått i flere år om selskapets praksis. For øyeblikket har 40 tverrpolitiske delstatsriksadvokater levert en interesseerklæring i konkursprosessen for å fremheve reguleringsspørsmål knyttet til salg eller overføring av Character.AI sine forretningseiendeler.

Riksadvokatene understreker den sensitive karakteren til dataene som er samlet inn, ettersom mange samtaler inkluderte dypt personlige detaljer delt av brukere, hvorav en betydelig andel involverte mindreårige. Etterforskningene som startet i 2024 fulgte en søksmål fra moren til en 14-åring som tok sitt liv kort tid etter interaksjon med chatboten. Undersøkelsen avdekket alvorlige bekymringer, inkludert chatboter som utgir seg for å være lisensierte fagfolk, eksponering for seksuelt og voldelig innhold, dårlige aldersverifiseringsprosesser, misvisende sikkerhetspåstander og mulige brudd på delstatslover om personvern.

Til tross for pågående forsøk på å løse disse problemene med Character.AI før konkursbegjæringen, ble det ikke oppnådd noen avtale. Med selskapet nå under konkursbeskyttelse, jobber riksadvokatene for at konkursdommeren skal pålegge strenge betingelser for ethvert eiendomssalg. De krever obligatorisk innføring av robuste alderskontrollsystemer, begrensninger på hvordan mindreårige kan bruke chatbotene, omfattende krisesikring og muligheten for brukere å slette sine data.

Riksadvokat Letitia James uttalte: «Dette selskapet samlet inn noen av de mest private tankene barn noensinne har delt, og nå kan disse samtalene bli solgt til høyeste budgiver. Jeg kjemper for å sikre at enhver kjøper setter barns sikkerhet først og implementerer reelle beskyttelsestiltak.» Character.AI og Disney har foreløpig ikke kommentert disse bekymringene.

Denne saken belyser utfordringene som oppstår når sensitiv AI-generert brukerdata er involvert i konkursprosesser, og understreker behovet for regulatorisk årvåkenhet for å beskytte sårbare brukere og deres informasjon under selskapsendringer.