Ņujorkas ģenerālprokurors un štati pieprasa lietotāju datu aizsardzību Character.AI bankrota laikā

Attēls: Illustrative image · Lifeguardrizz · CC0 · Avots

Kad Character.AI paziņo par bankrotu un pārdod aktīvus Disney, Ņujorkas ģenerālprokurors un 40 štati prasa lietotāju sensitīvo datu aizsardzību, īpaši aizsargājot nepilngadīgos, kuri izmantojuši AI tērzēšanas robota pakalpojumu.

Character.AI, mākslīgā intelekta tērzēšanas robota uzņēmums, nesen pieteica bankrotu saskaņā ar 11. nodaļu un paziņoja par dažu aktīvu pārdošanu Disney. Šis notikums ir izraisījis nopietnas bažas par sensitīvo lietotāju datu apstrādi, it īpaši sarunas, kas ietver nepilngadīgos. Saskaņā ar The Verge ziņojumu Ņujorkas ģenerālprokurors Letitia James atklāja, ka ir ilgstoša vairāku štatu izmeklēšana attiecībā uz uzņēmuma darbību. Pašlaik 40 pāri politiskajām līnijām esoši štatu ģenerālprokurori ir iesnieguši paziņojumu par interesi bankrota procesā, lai pievērstu uzmanību regulējošiem jautājumiem, kas saistīti ar Character.AI uzņēmējdarbības aktīvu pārdošanu vai nodošanu.

Ģenerālprokurori uzsver datu jutīgo raksturu, jo daudzas sarunas saturēja ļoti personīgus datus, ko lietotāji bija kopīgojuši, ievērojama daļa no tām saistīta ar nepilngadīgajiem. 2024. gadā uzsāktās izmeklēšanas notika pēc tiesas prasības no 14 gadus vecas meitenes mātes, kura izdarīja pašnāvību drīz pēc tērzēšanas robota izmantošanas. Izmeklēšanā atklātas nopietnas lietas, tostarp tērzēšanas roboti, kas izlikās par licencētiem profesionāļiem, pakļaušana seksuālam un vardarbīgam saturam, nepietiekama vecuma pārbaude, maldinošas drošības garantijas un iespējamie štata privātuma likumu pārkāpumi.

Neskatoties uz mēģinājumiem atrisināt šīs problēmas ar Character.AI pirms bankrota pieteikuma iesniegšanas, netika panākta vienošanās. Tagad, kad uzņēmums ir bankrota aizsardzībā, ģenerālprokurori aicina bankrota tiesnesi noteikt stingrus nosacījumus jebkurā aktīvu pārdošanā. Viņi pieprasa obligātu spēcīgu vecuma apstiprināšanas sistēmu ieviešanu, ierobežojumus nepilngadīgo mijiedarbībai ar tērzēšanas robotiem, visaptverošas krīzes aizsardzības procedūras un lietotāju iespēju dzēst savus datus.

Ģenerālprokurore Letitia James sacīja: “Šī kompānija ir savākusi dažas no privātākajām domām, ko bērni jebkad ir dalījušies, un tagad šīs sarunas var tikt pārdotas augstākajam solītājam. Es cīnos, lai ikviens pircējs liktu bērnu drošību pirmajā vietā un īstenotu patiesas aizsardzības mehānismus.” Character.AI un Disney šai lietai vēl nav snieguši komentārus.

Šis gadījums izgaismo izaicinājumus, kas rodas, iesaistot sensitīvus mākslīgā intelekta ģenerētus lietotāju datus bankrota procesos, uzsverot regulējošās uzraudzības nepieciešamību, lai aizsargātu neaizsargātākos lietotājus un viņu informāciju uzņēmumu pārkārtošanās laikā.