Osiem stanów USA pozwało OpenAI z powodu obaw o bezpieczeństwo ChatGPT dla nieletnich

Image: The Verge · Source

Osiem stanów USA wniosło pozwy przeciwko OpenAI, zarzucając firmie stawianie zysków ponad bezpieczeństwo poprzez narażanie dzieci na ryzyko za pomocą ChatGPT oraz wprowadzanie użytkowników w błąd co do funkcji bezpieczeństwa.

OpenAI stoi w obliczu wyzwań prawnych ze strony ośmiu stanów USA — Iowa, Kansas, Nebraska, Wirginia Zachodnia, Arkansas, Arizona, Idaho i Montana — dotyczących bezpieczeństwa ich chatbota AI, ChatGPT, szczególnie w odniesieniu do nieletnich. Stany te samodzielnie wniosły pozwy oskarżając OpenAI o szkodzenie dzieciom oraz wprowadzanie klientów w błąd w kwestii bezpieczeństwa platformy.

Pozwy twierdzą, że OpenAI naruszyło prawo ochrony konsumentów, nie ostrzegając wystarczająco użytkowników o potencjalnych zagrożeniach związanych z ChatGPT. Według skarg, kilka tragicznych zdarzeń z udziałem nastolatków i młodych dorosłych ma związek z interakcjami z chatbotem AI. Stany zarzucają, że pomimo publicznego przedstawiania ChatGPT jako „bezpiecznego, odpowiedniego dla młodzieży narzędzia, które przede wszystkim stawia na bezpieczeństwo”, rzeczywistość może być szkodliwa dla wrażliwych użytkowników. Zgłaszane zagrożenia to pogorszenie umiejętności krytycznego myślenia, wzmacnianie paranoi i urojeń, udzielanie niebezpiecznych porad medycznych oraz promowanie niezdrowych zachowań i relacji.

Ponadto pozwy krytykują OpenAI za zbieranie danych od nieletnich bez odpowiednich zabezpieczeń oraz nieskuteczne zapobieganie dostępowi do chatbota przez osoby niepełnoletnie. Dokumenty prawne odnoszą się także do niedawnych incydentów hakerskich związanych ze sztuczną inteligencją jako kolejnego dowodu na to, co opisują jako nierozwagę OpenAI.

Jeden z pozwów z Arizony wyraźnie stwierdza, że OpenAI zmieniło swoją pierwotną misję non-profit skupioną na bezpieczeństwie publicznym na podejście nastawione na zysk, które marginalizuje kluczowe zabezpieczenia. Stany domagają się nakazów sądowych zobowiązujących OpenAI do zapłaty kar cywilnych, zaprzestania wprowadzania opinii publicznej w błąd co do bezpieczeństwa ChatGPT oraz w niektórych przypadkach usunięcia nielegalnie pozyskanych danych osobowych.

W odpowiedzi na zarzuty, rzecznik OpenAI Drew Pusateri podkreślił zaangażowanie firmy w bezpieczeństwo, wskazując na wdrożenie „wiodących w branży zabezpieczeń wiekowych” oraz środków takich jak kontrola rodzicielska, przypomnienia o przerwach i ograniczenia modeli odpowiednich do wieku. Pusateri wyraził także gotowość OpenAI do współpracy ze stanami w opracowaniu pragmatycznych polityk dotyczących AI, przynoszących korzyści całej branży.

Te pozwy odzwierciedlają rosnące zainteresowanie bezpieczeństwem i regulacją AI, szczególnie w kontekście ekspozycji nieletnich na technologie AI. Reakcje prawne i regulacyjne OpenAI w nadchodzących miesiącach będą uważnie obserwowane, ponieważ debata nad bezpieczeństwem AI nadal się rozwija na całym świecie.