New Yorkin oikeuskansleri ja osavaltiot vaativat käyttäjätietojen suojaa Character.AI:n konkurssin yhteydessä

Kuva: Illustrative image · Lifeguardrizz · CC0 · Lähde

Character.AI:n hakeutuessa konkurssiin ja myydessä omaisuuttaan Disneylle New Yorkin oikeuskansleri sekä 40 osavaltiota vaativat suojaa käyttäjien arkaluontoisille tiedoille, erityisesti alaikäisten tekoälychatbotin käyttäjien kohdalla.

Character.AI, tekoälychatbot-yritys, hakeutui äskettäin Yhdysvaltain konkurssilain 11 luvun mukaisesti konkurssiin ja ilmoitti myyvänsä osan omaisuudestaan Disneylle. Tämä kehitys on herättänyt vakavia huolia arkaluontoisten käyttäjätietojen käsittelystä, erityisesti keskusteluista, joissa on mukana alaikäisiä. The Verge -lehden raportin mukaan New Yorkin oikeuskansleri Letitia James paljasti moniosavaltiotutkinnan olleen käynnissä useita vuosia yrityksen käytäntöjen vuoksi. Tällä hetkellä 40 puoluerajat ylittävää osavaltion oikeuskansleria on ilmoittanut kiinnostuksensa konkurssimenettelyihin korostaakseen sääntelykysymyksiä Character.AI:n liiketoiminnan omaisuuden myynnin tai siirron yhteydessä.

Oikeuskanslerit korostavat kerättyjen tietojen arkaluontoisuutta, sillä monet keskustelut sisälsivät käyttäjien hyvin henkilökohtaisia tietoja, joista merkittävä osa liittyi alaikäisiin. Vuonna 2024 käynnistettyjä tutkintoja edelsi haaste, jonka teki 14-vuotiaan itsemurhan tehneen nuoren äiti pian chatbotin käytön jälkeen. Tutkinnassa paljastui vakavia huolia, kuten chatbotien esiintyminen luvan saaneina ammattilaisina, altistuminen seksuaaliselle ja väkivaltaiselle sisällölle, puutteellinen ikävahvistus, harhaanjohtavat turvallisuusväitteet sekä mahdolliset osavaltiolainsäädännön yksityisyydensuojaloukkaukset.

Vaikka ongelmien ratkaisemiseksi tehtiin yrityksiä Character.AI:n kanssa ennen konkurssihakemusta, sopimukseen ei päästy. Nyt yhtiön ollessa konkurssisuojan alla, oikeuskanslerit vaativat konkurssituomaria asettamaan tiukkoja ehtoja mahdolliselle omaisuuden myynnille. He vaativat pakollista vahvaa ikävarmistusjärjestelmää, rajoituksia alaikäisten vuorovaikutukseen chatbotin kanssa, kattavia kriisisuojatoimia sekä käyttäjien mahdollisuutta poistaa omat tietonsa.

Oikeuskansleri Letitia James totesi: "Tämä yritys keräsi joitakin lapsilta koskaan jaettuja yksityisimpiä ajatuksia, ja nyt nämä keskustelut saattavat joutua korkeimman tarjouksen tekijälle. Taistelen sen puolesta, että kukin ostaja priorisoi lasten turvallisuuden ja asettaa todelliset suojatoimet." Character.AI eikä Disney ole vielä kommentoinut näitä huolia.

Tapaus korostaa haasteita, joita herättää arkaluontoisten tekoälyn tuottamien käyttäjätietojen käsittely konkurssimenettelyissä, ja alleviivaa tarvetta sääntelyvalvonnalle suojella haavoittuvia käyttäjiä ja heidän tietojaan yritysjärjestelyjen aikana.