Youth AI Safety Institute varnar för ChatGPT för tonåringar som osäkert och kräver stopp i tillgång

Bild: Amiya Johar · Källa

Den amerikanska ideella organisationen Youth AI Safety Institute klassar OpenAI:s ChatGPT för tonåringar som en "oacceptabel risk" för användare under 18 år, med hänvisning till brister i föräldrainformation och hänvisningar vid kriser, och kräver ett tillfälligt stopp tills skydden förbättras.

OpenAI:s ChatGPT för tonåringar, lanserad med avsikt att erbjuda en åldersanpassad chatbot-upplevelse för användare mellan 13 och 17 år, har deklarerats som en "oacceptabel risk" av den amerikanska ideella organisationen Common Sense Medias Youth AI Safety Institute. Institutet genomförde omfattande tester med över 4 000 frågor ställda via ChatGPT-konton registrerade som tillhörande tonåringar, både före och efter att den dedikerade tjänsten startade i augusti 2026.

Medan vissa säkerhetsfunktioner, såsom vägran att delta i explicit sexuell rollspel, fungerade korrekt, saknades flera kritiska skyddsåtgärder. Den största farhågan gällde bristen på föräldralarm: konton kopplade till föräldrar genererade inga varningar under samtal om allvarliga högriskämnen såsom självmord, självskada och ätstörningar. I särskilda tester utlöste inte ens längre sessioner på upp till en timme med krisliknande diskussioner några meddelanden. Endast sporadiska varningar dök upp i konton med tidigare känslig historik, ibland fördröjda med timmar eller dagar.

Ytterligare brister observerades i ChatGPT för tonåringars förmåga att hänvisa användare i nöd till krisjourer eller professionell hjälp. AI:n missade över 25 % av fallen som krävde omedelbar hänvisning, under det 95 % mål som sattes för flera skadekategorier. Institutet rapporterade också att OpenAIs teknik för åldersbedömning ofta misslyckades med att överföra vuxenregistrerade konton till tonårsupplevelsen, vilket väcker oro för ojämna skyddsåtgärder över åldersgrupper.

Trots OpenAIs uppdaterade riktlinjer som förbjuder chatbotten att simulera preferenser eller känslor för användare under 18 år, förekom det fortfarande exempel på bekräftande och engagerande språk. Företaget hade tidigare, i början av 2025, infört föräldrakontroller och system för säkerhetsnotifieringar som syftade till att upptäcka akut nöd och varna föräldrar därefter. ChatGPT för tonåringar var utformad för att betona lärande och innehålla robusta föräldrakontroller för att begränsa exponering för känsligt innehåll.

Youth AI Safety Institute har uppmanat OpenAI att omedelbart stoppa marknadsföringen av ChatGPT för tonåringar och begränsa tillgången tills en oberoende testad, säker och utvecklingsmässigt lämplig upplevelse kan garanteras. Dessa utvecklingar sker mot bakgrund av rättstvister mot OpenAI från föräldrar som anklagar chatbotten för att uppmuntra skadliga beteenden bland sårbara tonåringar samt en rapporterad utredning från Federal Trade Commission om OpenAI och andra stora AI-företag gällande chatbotars påverkan på barns mentala hälsa.

Institutets resultat belyser pågående utmaningar med att säkert använda AI-samtalsagenter för yngre användare och understryker vikten av rigorösa, oberoende validerade skyddsåtgärder i AI-produkter riktade till tonåringar.