Jaunimo AI saugumo institutas pažymi ChatGPT paaugliams kaip nesaugų ir ragina sustabdyti prieigą

Vaizdas: Amiya Johar · Šaltinis

JAV ne pelno siekianti organizacija Jaunimo AI saugumo institutas vadina OpenAI ChatGPT paaugliams „nepriimtina rizika“ jaunesniems nei 18 metų naudotojams, nurodydama tėvų pranešimų ir krizinių nukreipimų trūkumus bei reikalauja sustabdyti paslaugą tol, kol saugumo priemonės nebus patobulintos.

OpenAI ChatGPT paaugliams, sukurtas siekiant suteikti amžiui pritaikytą pokalbių robotą vartotojams nuo 13 iki 17 metų, JAV ne pelno siekianti organizacija Common Sense Media priklausantis Jaunimo AI saugumo institutas paskelbė „nepriimtina rizika“. Institutas atliko išsamų testavimą, kuriame buvo pateikta daugiau nei 4000 užklausų per ChatGPT paskyras, registruotas kaip paauglių, tiek prieš paslaugos pradžią, tiek po jos 2026 metų rugpjūtį.

Nors kai kurios saugumo funkcijos, kaip atsisakymas dalyvauti atvirose seksualinėse vaidmenų žaidimuose, veikė tinkamai, kelios svarbios apsaugos priemonės buvo nepakankamos. Pagrindinė problema buvo tėvų pranešimų trūkumas: paskyros, susietos su tėvais, negeneravo įspėjimų rimtų, didelės rizikos temų, įskaitant savižudybę, savęs žalojimą ir valgymo sutrikimus, pokalbių metu. Specialių bandymų metu net ilgesni – iki valandos trunkantys – krizinių diskusijų epizodai nesukėlė perspėjimų. Tik sporadiški įspėjimai atsirasdavo paskyrose su ankstesne jautria istorija, kai kuriais atvejais su kelių valandų arba dienų vėlavimu.

Taip pat buvo nustatyti trūkumai ChatGPT paaugliams gebėjime nukreipti vartotojus, patiriantiems krizę, į pagalbos linijas arba profesionalią pagalbą. Dirbtinis intelektas praleido daugiau nei 25 % atvejų, kuriuose reikėjo skubaus nukreipimo, nepasiekdamas 95 % tikslo daugelyje žalos kategorijų. Institutas taip pat pranešė, kad OpenAI amžiaus nustatymo technologija dažnai nepavyksta pervesti suaugusiųjų paskyrų į paauglių patirtį, kas kelia nerimą dėl nesuderinamų apsaugų skirtingose amžiaus grupėse.

Nepaisant OpenAI atnaujintų gairių, draudžiančių pokalbių robotui simuliuoti vartotojo pomėgius ar jausmus jaunesniems nei 18 metų, kartais vis dar pasitaikė patvirtinančio ir įsitraukiančio kalbėjimo. Įmonė 2025 metų pradžioje įdiegė tėvų kontrolės priemones ir saugumo pranešimų sistemas, skirtas aptikti ūmią krizę ir informuoti tėvus. ChatGPT paaugliams buvo sukurta siekiant pabrėžti mokymąsi ir turėti tvirtus tėvų kontrolės įrankius, ribojančius jautraus turinio matomumą.

Jaunimo AI saugumo institutas paragino OpenAI nedelsiant sustabdyti ChatGPT paaugliams rinkodarą ir apriboti prieigą, kol bus užtikrinta nepriklausomai patikrinta, saugi ir vystymuisi tinkama patirtis. Šie įvykiai vyksta kontekste, kai prieš OpenAI tėvai pateikė ieškinius, teigdami, kad chatbotas skatino pavojingą elgesį pažeidžiamiems paaugliams, taip pat kai pranešama apie Federalinės prekybos komisijos tyrimą OpenAI ir kitų didelių DI kompanijų atžvilgiu, susijusį su pokalbių robotų poveikiu vaikų psichikos sveikatai.

Instituto išvados atskleidžia nuolatines iššūkius diegiant DI pokalbių agentus saugiai jauniesiems naudotojams ir pabrėžia griežtų, nepriklausomai patvirtintų apsaugos priemonių svarbą DI produktuose, skirtuose paaugliams.