Niujorko prokurorė ir valstijos siekia apsaugos naudotojų duomenims dėl Character.AI bankroto

Vaizdas: Illustrative image · Lifeguardrizz · CC0 · Šaltinis

Character.AI paskelbus bankrotą ir parduodant turtą Disney, Niujorko prokurorė bei 40 valstijų reikalauja saugumo priemonių naudotojų jautriems duomenims, ypatingai saugant nepilnamečius, naudojusius AI pokalbių botų paslaugą.

Character.AI, AI pokalbių botų įmonė, neseniai paskelbė apie 11 skyriaus bankrotą ir pranešė apie kai kurių turto dalių pardavimą Disney. Šis įvykis sukėlė rimtų susirūpinimų dėl jautrių naudotojų duomenų tvarkymo, ypač pokalbių, kuriuose dalyvavo nepilnamečiai. Pasak The Verge pranešimo, Niujorko generalinė prokurorė Letitia James atskleidė, kad daugiavalstybinė tyrimo byla vykdoma jau keletą metų dėl įmonės veiklos praktikos. Šiuo metu 40 abipartinių valstijų generalinių prokurorų pateikė pranešimą apie susidomėjimą bankroto procese, siekdami atkreipti dėmesį į reguliavimo klausimus, susijusius su Character.AI verslo turto pardavimu ar perdavimu.

Generaliniai prokurorai pabrėžia surinktų duomenų jautrumą, nes daugumoje pokalbių buvo itin asmeninės informacijos, kuria dalinosi naudotojai, o reikšminga dalis duomenų susiję su nepilnamečiais. 2024 m. prasidėjo tyrimai po motinos, kurios 14-metis sūnus nusižudė netrukus po pokalbių su chatbotu, ieškinio. Tyrimas išaiškino sunkius klausimus: chatbotai prisistatė kaip licencijuoti specialistai, buvo pateikiama seksualinė ir smurtinė medžiaga, amžiaus patikra buvo prasta, saugumo teiginiai klaidinantys, ir galimos valstybės privatumo teisės pažeidimai.

Nepaisant bandymų spręsti šias problemas su Character.AI prieš bankroto paskelbimą, susitarimo nepasiektas. Dabar, kai bendrovė yra bankroto apsaugoje, generaliniai prokurorai ragina bankroto teisėją nustatyti griežtas sąlygas bet kokiam turto pardavimui. Jie reikalauja privalomo tvirto amžiaus patvirtinimo sistemos įdiegimo, apribojimų nepilnamečiams bendraujant su chatbotais, išsamios krizės apsaugos bei galimybės naudotojams ištrinti savo duomenis.

Letitia James pareiškė: „Ši įmonė surinko kai kurias iš privačiausių vaikų minčių, kokias jie kada nors yra pasidalinę, o dabar šie pokalbiai gali būti parduoti aukščiausiam pasiūlytojui. Aš kovosiu, kad bet koks pirkėjas pirmiausia rūpintųsi vaikų saugumu ir įgyvendintų tikras apsaugos priemones.“ Character.AI ir Disney kol kas nesuteikė komentarų šiai įtampai.

Ši byla iliustruoja iššūkius, kurie kyla, kai jautri AI sukurta naudotojų informacija įtraukta į bankroto procesus, pabrėždama būtinybę reguliavimo priežiūrai apsaugoti pažeidžiamus naudotojus ir jų duomenis vykstant įmonių pertvarkoms.