Youth AI Safety Institute advarer mot ChatGPT for tenåringer som usikkert, krever stopp i tilgang

Bilde: Amiya Johar · Kilde

Den amerikanske ideelle organisasjonen Youth AI Safety Institute betegner OpenAIs ChatGPT for Tenåringer som en "uakseptabel risiko" for brukere under 18 år, med henvisning til manglende varslinger til foreldre og manglende henvisninger ved kriser, og krever en pause inntil sikkerheten forbedres.

OpenAIs ChatGPT for Tenåringer, lansert med hensikt å tilby en alderspasset chatbot-opplevelse for brukere i alderen 13 til 17 år, er blitt erklært som en "uakseptabel risiko" av den amerikanske ideelle organisasjonen Common Sense Medias Youth AI Safety Institute. Instituttet gjennomførte omfattende testing med over 4 000 forespørsler sendt via ChatGPT-kontoer registrert som tilhørende tenåringer, både før og etter den dedikerte tjenesten startet i august 2026.

Selv om enkelte sikkerhetsfunksjoner, som å nekte å delta i eksplisitt seksuell rollespill, fungerte som de skulle, manglet flere kritiske beskyttelser. Den største bekymringen gjaldt svikt i varsling til foreldre: kontoer tilknyttet foreldre genererte ingen varsler i samtaler som omhandlet alvorlige høy-risikotemaer som selvmord, selvskading og spiseforstyrrelser. I dedikerte tester utløste ikke engang langvarige sesjoner på opptil en time med kriselignende diskusjoner varsler. Bare sporadiske alarmer dukket opp på kontoer med eksisterende sensitiv historikk, noen ganger med forsinkelse på timer eller dager.

Ytterligere mangler ble observert i ChatGPT for Tenåringers evne til å henvise brukere i krise til krisetelefoner eller profesjonell hjelp. AI-en overså over 25 % av tilfellene som krevde umiddelbar henvisning, under den målsetningen om 95 % i flere skadeområder. Instituttet rapporterte også at OpenAIs aldersestimeringsteknologi ofte mislyktes i å overføre voksne registrerte kontoer til tenåreropplevelsen, noe som reiser bekymring rundt inkonsistente beskyttelser på tvers av aldersgrupper.

Til tross for OpenAIs oppdaterte retningslinjer som forbyr chatboten å simulere preferanser eller følelser for brukere under 18 år, forekom det fortsatt tilfeller av validerende og engasjerende språk. Selskapet hadde tidligere, tidlig i 2025, introdusert foreldrekontroller og varslingssystemer med mål om å oppdage akutt nød og varsle foreldre deretter. ChatGPT for Tenåringer var designet for å fremme læring og inneholde robuste foreldrekontroller for å begrense eksponering for sensitivt innhold.

Youth AI Safety Institute har bedt OpenAI om umiddelbart å stanse markedsføringen av ChatGPT for Tenåringer og begrense tilgangen inntil en uavhengig testet, sikker og utviklingsmessig passende opplevelse kan garanteres. Disse utviklingene skjer midt i søksmål mot OpenAI fra foreldre som anklager chatboten for å oppmuntre til skadelig atferd blant sårbare tenåringer, samt en rapportert etterforskning av Federal Trade Commission om OpenAI og andre store AI-selskaper angående chatboters innvirkning på barns mentale helse.

Instituttets funn fremhever vedvarende utfordringer med å trygt implementere AI-samtaleagenter for yngre brukere og understreker viktigheten av grundige, uavhengige validerte sikkerhetstiltak i AI-produkter rettet mot tenåringer.