Instytut Bezpieczeństwa AI dla Młodzieży uznaje ChatGPT dla nastolatków za niebezpieczny, domaga się wstrzymania dostępu

Image: Amiya Johar · Source

Amerykańska organizacja non-profit Youth AI Safety Institute określa ChatGPT dla nastolatków firmy OpenAI jako „nieakceptowalne ryzyko” dla użytkowników poniżej 18 roku życia, wskazując na błędy w powiadomieniach dla rodziców i braku skierowań w sytuacjach kryzysowych. Domaga się wstrzymania dostępu do czasu poprawy zabezpieczeń.

ChatGPT dla nastolatków firmy OpenAI, uruchomiony z myślą o zapewnieniu odpowiedniego dla wieku doświadczenia chatbotowego użytkownikom w wieku od 13 do 17 lat, został uznany za „nieakceptowalne ryzyko” przez amerykańską organizację non-profit Common Sense Media – Youth AI Safety Institute. Instytut przeprowadził szeroko zakrojone testy obejmujące ponad 4 000 zapytań przesłanych za pomocą kont zarejestrowanych jako należące do nastolatków, zarówno przed, jak i po uruchomieniu dedykowanej usługi w sierpniu 2026 roku.

Chociaż niektóre funkcje bezpieczeństwa, takie jak odmowa angażowania się w eksplicytne seksualne odgrywanie ról, działały prawidłowo, znaleziono wiele krytycznych braków w zabezpieczeniach. Najpoważniejszym problemem była nieskuteczność powiadomień dla rodziców: konta powiązane z rodzicami nie generowały alertów podczas rozmów obejmujących poważne i wysokiego ryzyka tematy, takie jak samobójstwo, samookaleczenia czy zaburzenia odżywiania. W specjalnych testach nawet długie sesje trwające do godziny, odzwierciedlające dyskusje na poziomie kryzysowym, nie wywoływały powiadomień. Tylko sporadyczne alerty pojawiały się na kontach z wcześniej istniejącą wrażliwą historią, czasem z opóźnieniem sięgającym godzin lub dni.

Dalsze braki zaobserwowano w zdolności ChatGPT dla nastolatków do kierowania użytkowników będących w kryzysie do telefonów zaufania lub pomocy profesjonalnej. AI nie wykryła ponad 25% przypadków wymagających natychmiastowego skierowania, nie osiągając celu 95% skuteczności w wielu kategoriach szkód. Instytut zgłosił również, że technologia oceny wieku OpenAI często zawodziła w przełączaniu kont zarejestrowanych przez dorosłych na doświadczenie nastolatków, co budzi obawy dotyczące niespójnych zabezpieczeń pomiędzy grupami wiekowymi.

Mimo zaktualizowanych wytycznych OpenAI ograniczających chatbotowi możliwość symulowania preferencji lub uczuć dla użytkowników poniżej 18 roku życia, wciąż pojawiały się przypadki języka potwierdzającego i angażującego. Firma wprowadziła kontrolę rodzicielską i systemy powiadomień bezpieczeństwa już na początku 2025 roku, mające wykrywać ostre stany niepokoju i informować o tym rodziców. ChatGPT dla nastolatków miał podkreślać naukę i zawierać silne kontrole rodzicielskie, by ograniczać dostęp do treści wrażliwych.

Youth AI Safety Institute wezwał OpenAI do natychmiastowego wstrzymania marketingu ChatGPT dla nastolatków i ograniczenia dostępu do czasu zapewnienia niezależnie przetestowanego, bezpiecznego i odpowiedniego dla rozwoju doświadczenia. Te wydarzenia mają miejsce na tle pozwów sądowych wnoszonych przeciw OpenAI przez rodziców, którzy zarzucają chatbotowi zachęcanie do szkodliwych zachowań wśród podatnych nastolatków, a także na tle doniesień o śledztwie Federalnej Komisji Handlu wobec OpenAI i innych dużych firm AI dotyczącego wpływu chatbotów na zdrowie psychiczne dzieci.

Wyniki Instytutu podkreślają ciągłe wyzwania związane z bezpiecznym wdrażaniem agentów rozmownych AI dla młodszych użytkowników oraz podkreślają znaczenie rygorystycznych, niezależnie zweryfikowanych zabezpieczeń w produktach AI skierowanych do nastolatków.