New Yorki peaprokurör ja osariigid nõuavad kasutajate andmete kaitset Character.AI pankroti ajal

Pilt: Illustrative image · Lifeguardrizz · CC0 · Allikas

Kui Character.AI kuulutas pankrotti ja müüb varasid Disney’le, nõuavad New Yorki peaprokurör ja 40 osariiki kasutajate tundlike andmete kaitset, eriti alaealiste andmete kaitset, kes on kasutanud AI vestlusroboti teenust.

Character.AI, tehisintellektil põhinev vestlusroboti ettevõte, esitas hiljuti pankrotitaotluse vastavalt peatükile 11 ning teatas mõnede varade müügist Disney’le. See areng on tekitanud tõsiseid muresid tundlike kasutajate andmete, eriti alaealiste kaasatud vestluste käsitlemise osas. The Verge’i raporti kohaselt avaldas New Yorki peaprokurör Letitia James, et mitme osariigi ühisinvesteering ettevõtte tavade uurimiseks on kestnud aastaid. Praegu on 40 kaheparteilist osariigi peaprokuröri esitanud pankroti menetluses huvide teatise, et juhtida tähelepanu Character.AI ärivarade müügiga või üleviimisega seotud regulatiivsetele küsimustele.

Peaprokurörid rõhutavad andmete tundlikku iseloomu, kuna paljud vestlused sisaldasid kasutajate väga isiklikke detaile ning märkimisväärne osa neist hõlmas alaealisi. 2024. aastal algatatud uurimised järgnesid kohtuasjale, mille esitas 14-aastase tütre ema, kes lõpetas enesetapu vahetult pärast chatbotiga suhtlemist. Juhtum paljastas rasked mured, sealhulgas chatrobotite esinemine litsentseeritud spetsialistidena, seksuaal- ja vägivaldse sisu kättesaadavus, ebasoodsad vanusekontrolli protsessid, eksitavad turvalisuse väited ning võimalikud osariigi privaatsusseaduste rikkumised.

Hoolimata Character.AI-ga enne pankrotiavalduse esitamist probleemi lahendamiseks tehtud jõupingutustest, kokkuleppele ei jõutud. Kuna ettevõte on nüüd pankrotikaitse all, pooldavad peaprokurörid pankrotimehele rangete tingimuste kehtestamist mistahes varamüügi puhul. Nad nõuavad kohustuslikku tugeva vanusekontrollsüsteemi rakendamist, piiranguid alaealiste suhtlusele chatbotidega, ulatuslikke kriisikaitse meetmeid ning kasutajate võimalust oma andmeid kustutada.

Peaprokurör Letitia James ütles: „See ettevõte kogus mõningaid laste kõige privaatsemaid mõtteid ning nüüd võidakse need vestlused müüa kõrgeima pakkumise tegijale. Ma võitlen selle eest, et iga ostja seab laste turvalisuse esikohale ja rakendab reaalseid kaitsemeetmeid.” Character.AI ja Disney pole nende murede suhtes veel kommentaare avaldanud.

See juhtum toob esile väljakutsed, mis tekivad tundlike AI-põhiste kasutajaandmete kaasamisel pankrotimenetlustesse, rõhutades regulatiivse järelevalve vajadust, et kaitsta haavatavaid kasutajaid ja nende andmeid ettevõtete ümberkorralduste ajal.