Jauno AI drošības institūts atzīst ChatGPT pusaudžiem par nedrošu un aicina apturēt piekļuvi

Attēls: Amiya Johar · Avots

ASV bezpeļņas organizācija Jauno AI drošības institūts sauc OpenAI ChatGPT pusaudžiem par „nepieņemamu risku” lietotājiem līdz 18 gadiem, norādot uz neveiksmēm vecāku paziņošanas un krīzes novirzīšanas jomā, un pieprasa piekļuves apturēšanu līdz tiek uzlabotas drošības pasākumi.

OpenAI ChatGPT pusaudžiem, kas izveidots ar mērķi nodrošināt vecumam atbilstošu čatbotu pieredzi lietotājiem vecumā no 13 līdz 17 gadiem, ASV bezpeļņas organizācijas Common Sense Media Jauno AI drošības institūts ir atzinis par „nepieņemamu risku”. Institūts veica plašas pārbaudes, iesniedzot vairāk nekā 4000 pieprasījumu ChatGPT kontiem, kas reģistrēti kā piederīgi pusaudžiem, gan pirms, gan pēc speciālā pakalpojuma uzsākšanas 2026. gada augustā.

Lai gan dažas drošības funkcijas, piemēram, atteikšanās iesaistīties tiešā seksuālā lomu spēlē, darbojās pareizi, tika konstatētas vairākas kritiskas aizsardzības nepilnības. Vissvarīgākā problēma bija saistīta ar vecāku paziņošanas traucējumiem: konti, kas saistīti ar vecākiem, neradīja brīdinājumus sarunu laikā, kas ietvēra nopietnas ar pašnāvību, pašsavainošanos un ēšanas traucējumiem saistītas tēmas ar augstu risku. Speciālās pārbaudēs pat ilgstošas, līdz pat stundai ilgas krīzes līmeņa sarunas neizraisīja brīdinājumus. Tikai sporādiski brīdinājumi parādījās kontiem ar iepriekšēju jūtīgu vēsturi, dažkārt ar stundām vai dienām ilgu aizkavi.

Turpmākas nepilnības tika novērotas ChatGPT pusaudžiem spējā novirzīt lietotājus krīzes tālruņiem vai profesionālai palīdzībai. Mākslīgais intelekts neievēroja vairāk nekā 25% gadījumu, kuriem vajadzēja tūlītēju novirzīšanu, nepiekļūstot mērķa 95% slieksnim vairākās kaitējuma kategorijās. Institūts arī ziņoja, ka OpenAI vecuma noteikšanas tehnoloģija bieži nespēja pārvērst pieaugušajiem reģistrētus kontus pusaudžu pieredzē, radot bažas par pretrunīgām aizsardzībām dažādās vecuma grupās.

Neskatoties uz OpenAI atjauninātajiem noteikumiem, kas aizliedz čatbotam simulēt priekšstatus vai jūtas pret lietotājiem, kas jaunāki par 18 gadiem, joprojām tika novērota valodu izmantošana, kas apstiprina un iesaista. Uzņēmums jau 2025. gada sākumā bija ieviesis vecāku kontroli un drošības paziņošanas sistēmas, lai noteiktu akūtas ciešanas un attiecīgi brīdinātu vecākus. ChatGPT pusaudžiem tika izstrādāts ar uzsvaru uz mācībām un stingriem vecāku kontroles mehānismiem, lai ierobežotu piekļuvi sensitīvam saturam.

Jauno AI drošības institūts aicina OpenAI nekavējoties apturēt ChatGPT mārketingu pusaudžiem un ierobežot piekļuvi, līdz tiek nodrošināta neatkarīgi pārbaudīta, droša un attīstībai atbilstoša pieredze. Šie notikumi risinās tiesvedību fonā, kurā vecāki sūdzas pret OpenAI, apgalvojot, ka čatbots veicina kaitīgas uzvedības starp ievainojamiem pusaudžiem, kā arī ziņotās Federālās tirdzniecības komisijas izmeklēšanas OpenAI un citu lielu AI uzņēmumu attiecībā uz čatbotu ietekmi uz bērnu garīgo veselību.

Institūta atziņas uzsver pastāvīgās problēmas drošai sarunu AI aģentu ieviešanai jaunākiem lietotājiem un akcentē stingru, neatkarīgu validāciju drošības pasākumu nozīmi AI produktos, kas vērsti uz pusaudžiem.