DI

OpenAI pristato naujas priemones kovai su vaikų seksualinio išnaudojimo medžiaga – vaizdų klasifikatorių ir ChatGPT įspėjimus

Tendela Briefing ·
6 peržiūros · 0 Komentarai
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch

Vaizdas: TechCrunch · Šaltinis

OpenAI pristatė vaizdų klasifikatorių, kuris atpažįsta dirbtiniu intelektu sukurtą ir kitą vaikų seksualiniu išnaudojimu susijusią medžiagą bei ChatGPT įspėjimus bei laikinus blokus, siekiant užkirsti kelią tokio turinio prieigai ir kūrimui bei pagerinti vaikų apsaugą.

OpenAI pradėjo naudoti naujų įrankių rinkinį, skirtą kovai su vaikų seksualinio išnaudojimo medžiaga (CSAM), reaguojant į vis didėjančias saugumo rizikas, susijusias su dirbtiniu intelektu. Esminė naujovių dalis – unikalus vaizdų klasifikatorius, gebantis aptikti CSAM vaizdus, įskaitant dirbtinai sugeneruotus. Šis klasifikatorius suteikia įvertinimus, nurodančius, kiek tikėtina, kad vaizdas yra piktnaudžiavimo turinys, taip padėdamas žmonėms peržiūrėtojams.

Klasifikatoriaus kūrimas vyko bendradarbiaujant su Nacionaliniu dingusių ir išnaudojamų vaikų centru (NCMEC). OpenAI pradėjo suteikti prieigą prie šio įrankio pasirinktiems įmonių partneriams per savo API nemokamai, kas skatina plačiau jį naudoti. Ankstyvieji testai parodė, kad klasifikatorius sumažino pažymėtų vaizdų skaičių 48%, tuo pačiu aptikdamas tą patį kiekį piktnaudžiavimo vaizdų, taip sumažindamas turinio moderatorių krūvį. Be to, įrankiu pažymėti vaizdai du kartus dažniau patvirtinti kaip piktnaudžiavimo turinys.

Tuo pačiu metu OpenAI integravo naujas įspėjimo priemones į ChatGPT. Kai naudotojas bando pasiekti arba sukurti vaikų seksualizavimą skatinantį turinį, sistema rodo įspėjimą, suteikia nuorodas į specializuotas paramos priemones, skirtas stabdyti žalingą elgesį, ir laikinai užblokuoja naudotojo paskyrą 24 valandoms kaip perspėjimą. ChatGPT jau blokuoja CSAM turinio užklausas, o pakartotiniai pažeidimai gali lemti paskyros visišką uždarymą.

Šie įspėjimai ir gairės buvo parengti konsultuojantis su ekspertų organizacijomis, tokiomis kaip Protect Children, Lucy Faithfull Foundation, bei akademiniais tyrėjais, kurie vertino atgrasančių pranešimų veiksmingumą. OpenAI taip pat paskelbė kūrėjų gaires, padedančias užkirsti kelią, aptikti ir pranešti apie CSAM, kurios jau padėjo kai kuriems kūrėjams įgyvendinti vaikų apsaugos priemones bei užmegzti ryšius su NCMEC pranešimų kanalais.

Be šių priemonių, OpenAI suteikė teisėsaugos institucijoms, kurios specializuojasi vaikų apsaugos srityje, dirbtinio intelekto pagrindu veikiančius tyrimų priedėlius, analitinius įrankius ir mokymosi išteklius, užtikrinant atsakingą bei efektyvų DI naudojimą kovojant su CSAM. Prieiga prie šių išteklių yra griežtai kontroliuojama programos administratorių.

Ši iniciatyva seka po įvairių kritikos bangų ir ieškinių prieš OpenAI dėl technologijų piktnaudžiavimo, ypač susijusių su vaikų saugumu. Įmonė anksčiau atnaujino savo DI modelius ir turinio gaires, kad pagerintų saugumą, bei pristatė paaugliams pritaikytą ChatGPT versiją.

Naujausi OpenAI pasiekimai atspindi nuoseklias pastangas spręsti sudėtingus DI ir vaikų apsaugos iššūkius, demonstruodami daugiapakopį požiūrį, derinantį technologijas, politiką ir bendradarbiavimą su ekspertais.

Šaltiniai ir originalūs pranešimai

Komentarai (0)

Komentarų dar nėra. Pradėkite diskusiją.

Rašyti komentarą

Komentarai publikuojami po moderavimo. Jūsų vardas ir komentaras bus vieši. Paskyra