Noorte tehisintellekti ohutuse instituut märgib ChatGPT teismelistele ohutuks ja kutsub juurdepääsu peatama

Pilt: Amiya Johar · Allikas

USA heategevusorganisatsioon Noorte Tehisintellekti Ohutuse Instituut nimetab OpenAI ChatGPT teismelistele alla 18aastastele kasutajatele „vastuvõetamatuks riskiks“, tuues välja vanematele teatamise ja kriisiabi suunamise puudujäägid ning nõuab pause kuni turvameetmed paranevad.

OpenAI ChatGPT teismelistele, mis loodi eesmärgiga pakkuda 13–17-aastastele kasutajatele vanusele sobivat vestlusrobotikogemust, on USA heategevusorganisatsiooni Common Sense Media Noorte Tehisintellekti Ohutuse Instituudi poolt tunnistatud „vastuvõetamatuks riskiks“. Instituut viis läbi põhjalikud testid, kasutades enam kui 4000 päringut ChatGPT kontodelt, mis olid registreeritud teismeliste nimel, nii enne kui ka pärast pühendatud teenuse alustamist augustis 2026.

Kuigi mõned turvafunktsioonid, näiteks keeld osaleda selgesõnalises seksuaalses rollimängus, töötasid korralikult, puudusid mitmed kriitilised kaitsemehhanismid. Kõige tõsisem mure oli seotud vanemate teavitamise puudumisega: kontodel, mis olid seotud vanematega, ei tekkinud teateid tõsiste kõrge riskiga teemade, nagu enesetapp, enesevigastamine ja söömishäired käsitlevate vestluste ajal. Kui pühendatud testides kestsid kuni tunni pikkused kriisitasemel arutelud, ei vallandunud teavitusi. Ainult aeg-ajalt tekkisid teated tundlike eelnevate ajalooga kontode puhul, mõnikord alles tundide või päevade pärast.

Lisaks täheldati puudujääke ChatGPT teismelistele suutlikkuses suunata hädas olevaid kasutajaid kriisitelefonidele või professionaalse abi juurde. Tehisintellekt jättis üle 25% juhtudest, mis nõudsid kohest suunamist, märkamata ning jäi mitmes kahju kategoorias alla sihitud 95% läve. Instituut teatas ka, et OpenAI vanusehinnangutehnoloogia ebaõnnestus sageli täiskasvanutele registreeritud kontosid suunata teismelistele mõeldud kogemusse, mis tõstatas kahtlusi ebakonsistentsete turvameetmete kohta eri vanuserühmades.

Hoolimata OpenAI uuendatud juhistest keelata vestlusrobotil alla 18aastastele muredele või tunnetele simuleerimine, esines siiski valideerimist ja kaasahaaravat keelekasutust. Ettevõte oli juba 2025. aasta alguses juurutanud vanemliku kontrolli ja turvateavitussüsteemid, et tuvastada akut stressi ja teavitada vanemaid vastavalt. ChatGPT teismelistele oli loodud rõhuasetusega õppimisel ning tugevate vanemlike kontrollidega, et piirata tundliku sisu mõju.

Noorte Tehisintellekti Ohutuse Instituut kutsus OpenAI-d viivitamatult peatama ChatGPT turundamise teismelistele ning piirama ligipääsu seni, kuni sõltumatult testitud turvaline ja arengule sobiv kogemus on tagatud. Need arengud toimuvad kooskõlas hagidega, mille vanemad on OpenAI vastu esitanud väitega, et vestlusrobot soodustas haavatavate teismeliste kahjulikke käitumisi, ning teatatud Föderaalse Kaubanduskomisjoni uurimisega OpenAI ja teiste suuremate tehisintellekti ettevõtete suhtes seoses vestlusrobotite mõjuga laste vaimsele tervisele.

Instituudi leidmised tõstavad esile jätkuvaid väljakutseid AI-põhiste vestlusagentide ohutuks juurutamiseks noorematele kasutajatele ja rõhutavad rangete, sõltumatult valideeritud turvameetmete tähtsust teismelistele suunatud tehisintellekti toodetes.