Youth AI Safety Institute pitää ChatGPT:tä teini-ikäisille turvattomana ja vaatii pääsyn keskeytystä

Kuva: Amiya Johar · Lähde

Yhdysvaltalainen voittoa tavoittelematon Youth AI Safety Institute pitää OpenAI:n ChatGPT:tä teini-ikäisille alle 18-vuotiaille käyttäjille "hyväksymättömänä riskinä" viitaten vanhempien ilmoitusten ja kriisiapu-ohjausten puutteisiin ja vaatii palvelun taukoa, kunnes turvatoimet paranevat.

OpenAI:n ChatGPT nuorille, joka lanseerattiin tarkoituksena tarjota ikäystävällinen chatbot-kokemus 13–17-vuotiaille käyttäjille, on julistettu "hyväksymättömäksi riskiksi" Yhdysvaltalaisen voittoa tavoittelemattoman järjestön Common Sense Median Youth AI Safety Instituten toimesta. Instituutti teki laajan testauksen, jossa kokeiltiin yli 4 000 kehotetta ChatGPT-tilien kautta, jotka oli rekisteröity teinikäisiksi, sekä ennen palvelun julkaisua että sen jälkeen elokuussa 2026.

Vaikka jotkin turvaominaisuudet, kuten kieltäytyminen osallistumasta seksuaaliseen roolileikkiin, toimivat oikein, useita kriittisiä suojausmekanismeja puuttui. Merkittävin huoli oli vanhempien ilmoitusten epäonnistuminen: vanhempiin linkitetyillä tileillä ei syntynyt hälytyksiä vakavien korkean riskin aiheiden, kuten itsemurhan, itsevahingon ja syömishäiriöiden käsittelyn aikana. Erikoistesteissä jopa jopa tunnin pituiset kriisitason keskustelut eivät laukaise hälytyksiä. Ainoastaan satunnaisia ilmoituksia ilmestyi tileillä, joilla oli aiempia herkkiä tapahtumia, joskus viiveellä tunteja tai päiviä.

Lisäksi puutteita havaittiin ChatGPT nuorille -version kyvyssä ohjata hätätilanteessa olevia käyttäjiä kriisipuhelinlinjoille tai ammattilaisavun piiriin. tekoäly jätti huomiotta yli 25 % tapauksista, jotka vaativat välitöntä ohjausta, jääden alle tavoitellun 95 prosentin rajan monilla haittakategorioilla. Instituutti raportoi myös, että OpenAI:n ikäarviointiteknologia epäonnistui usein siirtämään aikuisten rekisteröitymiä tilejä nuorten kokemukseen, mikä herättää huolta epätasaisista suojauksista eri ikäryhmissä.

Huolimatta OpenAI:n päivitetystä ohjeistuksesta, joka estää chatbotin simuloimasta mieltymyksiä tai tunteita alle 18-vuotiaille käyttäjille, esiintyi edelleen vahvistavaa ja osallistuvaa kieltä. Yritys oli ottanut käyttöön vanhempien valvonta- ja turvailmoitusjärjestelmiä jo vuoden 2025 alussa pyrkien havaitsemaan akuutin hätätilanteen ja ilmoittamaan vanhemmille. ChatGPT nuorille suunniteltiin korostamaan oppimista ja sisältämään vahvat vanhempien valvontamekanismit, jotka rajoittavat altistumista herkälle sisällölle.

Youth AI Safety Institute on vaatinut OpenAI:ta keskeyttämään välittömästi ChatGPT:n markkinoinnin nuorille ja estämään pääsyn siihen, kunnes voidaan varmistaa riippumattomasti testattu, turvallinen ja kehityksellisesti sopiva käyttökokemus. Nämä tapahtumat sijoittuvat kontekstiin, jossa vanhemmat ovat nostaneet oikeusjuttuja OpenAI:ta vastaan väittäen chatbotin rohkaisseen haitallisiin käyttäytymismalleihin haavoittuvien teini-ikäisten keskuudessa, samalla kun Yhdysvaltain Federal Trade Commission tutkii OpenAI:ta ja muita suuria tekoälyyrityksiä chatbotien vaikutuksista lasten mielenterveyteen.

Instituutin havainnot korostavat jatkuvia haasteita tekoälykeskusteluagenttien turvallisessa käyttöönotossa nuorille käyttäjille ja painottavat tiukkojen, riippumattomasti validoitujen turvatoimien tärkeyttä tekoälytuotteissa, jotka on suunnattu teini-ikäisille.