Aštuonios JAV valstijos kaltina OpenAI dėl ChatGPT saugumo problemų nepilnamečiams

Vaizdas: The Verge · Šaltinis

Aštuonios JAV valstijos pateikė ieškinius prieš OpenAI, teigdamos, kad įmonė prioritetą teikė pelnui vietoj saugumo, leisdama vaikams naudotis ChatGPT ir klaidindama vartotojus apie saugumo funkcijas.

OpenAI susiduria su teisminiais iššūkiais iš aštuonių JAV valstijų – tai Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho ir Montana – dėl jos dirbtinio intelekto pokalbių roboto ChatGPT saugumo, ypač susijusių su nepilnamečiais. Šios valstijos nepriklausomai pateikė ieškinius, kaltindamos OpenAI vaikų žala ir klaidinimu vartotojų apie platformos saugumą.

Ieškiniuose teigiama, kad OpenAI pažeidė vartotojų apsaugos įstatymus, nes nepakankamai įspėjo naudotojus apie galimas rizikas, susijusias su ChatGPT. Pagal šiuos pranešimus, keli tragiški incidentai, susiję su paaugliais ir jaunais suaugusiaisiais, yra susiję su sąveika su AI pokalbių robotu. Valstijos tvirtina, kad nepaisant OpenAI viešai pateikiamo ChatGPT kaip „saugios, jaunimui tinkamos priemonės, prioritetą teikiančios saugumui“, realybė gali būti žalinga pažeidžiamiems naudotojams. Praneštos rizikos apima kritinio mąstymo gebėjimų blogėjimą, paranojos ir klajonių skatinimą, pavojamų medicininių patarimų suteikimą bei nesveiko elgesio ir santykių propagavimą.

Be to, ieškiniai kritikuoja OpenAI dėl duomenų apie nepilnamečius rinkimo be pakankamų saugumo priemonių ir dėl neveiksmingo nepilnamečių prieigos prie pokalbių roboto prevencijos. Teisiniai dokumentai taip pat mini neseniai įvykusius AI susijusius įsilaužimus kaip papildomą įrodymą, ką jie apibūdina kaip OpenAI neatsargumą.

Vienas ieškinys iš Arizonos aiškiai teigia, kad OpenAI pasitraukė nuo savo pradinės ne pelno siekiančios misijos, skirtos visuomenės saugumui, link pelnu pagrįsto požiūrio, kuris paneigia svarbias apsaugas. Valstijos siekia teismo nurodymų, įpareigojančių OpenAI sumokėti civilines baudas, nutraukti klaidinančią viešąją informaciją apie ChatGPT saugumą ir kai kuriais atvejais ištrinti neteisėtai surinktą asmeninę informaciją.

Atsakydamas į šias kaltinimus, OpenAI atstovas Drew Pusateri pabrėžė įmonės įsipareigojimą saugumui, akcentuodamas įdiegtas „pramonės lyderių amžiaus specifines apsaugas“ ir tokias priemones kaip tėvų kontrolės, pertraukų priminimai ir amžiui tinkami modelių apribojimai. Pusateri taip pat išreiškė OpenAI pasirengimą bendradarbiauti su valstijomis kuriant pragmatiškas DI politikos gaires, naudingas plačiajai industrijai.

Šie ieškiniai žymi didėjantį dėmesį DI saugumui ir reguliavimui, ypač susijusiam su nepilnamečių poveikiu DI technologijoms. OpenAI teisminiai ir reguliavimo atsakymai artimiausiais mėnesiais bus kruopščiai stebimi, nes diskusijos apie DI saugumą toliau vystosi visame pasaulyje.