AI

OpenAI wprowadza nowe narzędzia do zwalczania materiałów przedstawiających seksualne wykorzystywanie dzieci z pomocą klasyfikatora obrazów i ostrzeżeń ChatGPT

Tendela Briefing ·
6 odsłon · 0 Komentarze
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch

Image: TechCrunch · Source

OpenAI zaprezentowało klasyfikator obrazów wykrywający generowane przez AI i inne materiały seksualnego wykorzystywania dzieci (CSAM) wraz z ostrzeżeniami i tymczasowymi blokadami w ChatGPT, co wzmacnia środki ochrony dzieci.

OpenAI uruchomiło serię nowych narzędzi mających na celu zwalczanie materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM), reagując na rosnące obawy związane z zagrożeniami bezpieczeństwa wynikającymi z AI. Centralnym elementem tych działań jest nowy klasyfikator obrazów, zdolny do wykrywania obrazów CSAM, w tym tych generowanych sztucznie. Klasyfikator przypisuje oceny wskazujące na prawdopodobieństwo, że dany obraz zawiera treści nadużyciowe, dostarczając wskazówek dla ludzkich recenzentów.

Prace nad klasyfikatorem były prowadzone we współpracy z National Center for Missing and Exploited Children (NCMEC). OpenAI zaczęło udostępniać to narzędzie wybranym firmom poprzez API bezpłatnie, ułatwiając szersze zastosowanie. Wstępne testy wykazały, że klasyfikator zmniejszył liczbę oznaczonych obrazów o 48%, jednocześnie utrzymując wykrywalność takiej samej liczby obrazów nadużyciowych, zmniejszając tym samym obciążenie moderatorów treści. Dodatkowo obrazy oznaczone przez klasyfikator dwukrotnie częściej były potwierdzane jako nadużyciowe.

Równocześnie OpenAI zintegrowało nowe mechanizmy ostrzegawcze w ChatGPT. Gdy użytkownik próbuje uzyskać dostęp do treści seksualizujących dzieci lub je generować, system wyświetla alert, oferuje linki do specjalistycznych zasobów wsparcia mających na celu powstrzymanie szkodliwego zachowania oraz tymczasowo zawiesza konto użytkownika na 24 godziny jako ostrzeżenie. ChatGPT już blokuje żądania dotyczące treści CSAM, a powtarzające się naruszenia mogą skutkować trwałym zablokowaniem konta.

Te ostrzeżenia i wytyczne powstały we współpracy z organizacjami eksperckimi takimi jak Protect Children, Lucy Faithfull Foundation oraz badaczami akademickimi, którzy oceniali skuteczność przekazów odstraszających. OpenAI opublikowało również wytyczne dla deweloperów wspierające zapobieganie, wykrywanie i zgłaszanie CSAM, co pomogło niektórym deweloperom we wdrażaniu środków bezpieczeństwa dzieci oraz nawiązywaniu kanałów zgłoszeniowych do NCMEC.

Poza tymi działaniami OpenAI wyposażyło organy ścigania specjalizujące się w bezpieczeństwie dzieci w zaawansowane wtyczki AI do dochodzeń, narzędzia analityczne oraz materiały szkoleniowe, zapewniając odpowiedzialne i skuteczne wykorzystanie AI w zwalczaniu CSAM. Dostęp do tych zasobów jest starannie nadzorowany przez administratorów programu.

Inicjatywa ta następuje po różnych krytykach i pozwach skierowanych wobec OpenAI dotyczących niewłaściwego wykorzystania ich technologii, zwłaszcza związanych z ryzykiem dla dzieci. Firma wcześniej zaktualizowała swoje modele AI i wytyczne dotyczące treści w celu zwiększenia bezpieczeństwa oraz uruchomiła przyjazną dla nastolatków wersję ChatGPT.

Najnowsze postępy OpenAI odzwierciedlają trwające wysiłki mające na celu rozwiązanie złożonych wyzwań związanych ze sztuczną inteligencją i ochroną dzieci, pokazując podejście wielotorowe łączące technologię, politykę i współpracę z ekspertami.

Źródła i oryginalne doniesienia

Komentarze (0)

Nie ma jeszcze komentarzy.

Napisz komentarz

Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto