OpenAI ievieš jaunas rīkus cīņai pret bērnu seksuālās ļaunprakses materiāliem ar attēlu klasifikatoru un ChatGPT brīdinājumiem

Attēls: TechCrunch · Avots
OpenAI ir izstrādājis attēlu klasifikatoru AI radītu un citu bērnu seksuālās ļaunprakses materiālu attēlu atpazīšanai, kā arī ieviesis ChatGPT brīdinājumus un pagaidu bloķējumus, lai novērstu šāda satura piekļuvi un radīšanu, tādējādi uzlabojot bērnu drošības pasākumus.
OpenAI ir uzsākusi virkni jaunu rīku, lai cīnītos pret bērnu seksuālās ļaunprakses materiāliem (CSAM), reaģējot uz pieaugošām bažām par AI saistītajiem drošības riskiem. Galvenais šajos centienos ir inovatīvs attēlu klasifikators, kas spēj atklāt CSAM attēlus, tajā skaitā mākslīgi radītus.
Šis klasifikators piešķir vērtējumus, kas norāda iespējamību, ka attēlā ir ļaunprakses saturs, sniedzot vadlīnijas cilvēku pārskatītājiem.
Klasifikatora izstrāde notika sadarbībā ar National Center for Missing and Exploited Children (NCMEC). OpenAI ir uzsākusi šī rīka pieejas nodrošināšanu atlasītām kompānijām caur API bez maksas, veicinot plašāku izmantošanu. Agrīnie testi parādīja, ka klasifikators samazināja iezīmēto attēlu skaitu par 48%, saglabājot tādu pašu ļaunprakses attēlu atklāšanas līmeni, tādējādi mazinot satura moderēšanas slodzi. Turklāt attēli, ko klasifikators iezīmēja, bija divreiz lielāka varbūtība, ka tie tiks apstiprināti kā ļaunprakses saturs.
Vienlaikus OpenAI ir integrējusi jaunas brīdinājuma mehānismus ChatGPT. Kad lietotājs mēģina piekļūt vai radīt bērnus seksualizējošu saturu, sistēma rāda brīdinājumu, piedāvā saites uz specializētiem atbalsta resursiem, kas palīdz novērst kaitīgu uzvedību, un pagaidu konta apturēšanu uz 24 stundām kā brīdinājumu. ChatGPT jau bloķē CSAM pieprasījumus, un atkārtoti pārkāpumi var novest pie konta pastāvīgas anulēšanas.
Šie brīdinājumi un vadlīnijas tika izstrādātas konsultējoties ar ekspertu organizācijām, piemēram, Protect Children, Lucy Faithfull Foundation, un akadēmiskiem pētniekiem, kas novērtēja atturējošo zīmju efektivitāti. OpenAI arī publicēja izstrādātāju vadlīnijas CSAM novēršanai, atklāšanai un ziņošanai, kas palīdzējušas daļai izstrādātāju īstenot bērnu drošības pasākumus un sasaistīties ar NCMEC ziņošanas kanāliem.
Papildus šiem pasākumiem OpenAI ir aprīkojusi bērnu drošībai veltītās tiesībaizsardzības iestādes ar AI darbinātiem izmeklēšanas spraudņiem, analītiskajiem rīkiem un apmācību materiāliem, nodrošinot atbildīgu un efektīvu AI izmantošanu cīņā pret CSAM. Pieeja šiem resursiem tiek rūpīgi pārvaldīta programmas administratoru.
Šī iniciatīva seko daudzām kritikas un tiesvedības situācijām, ar kurām OpenAI ir saskārusies saistībā ar savu tehnoloģiju ļaunprātīgu izmantošanu, īpaši attiecībā uz bērnu drošības riskiem. Uzņēmums iepriekš ir atjauninājis savus AI modeļus un satura vadlīnijas, lai uzlabotu drošību, kā arī izveidojis jauniešiem draudzīgu ChatGPT versiju.
OpenAI jaunākie sasniegumi atspoguļo nepārtrauktas pūles risināt sarežģītas problēmas, kas saistītas ar AI un bērnu aizsardzību, demonstrējot daudzpusīgu pieeju, kas apvieno tehnoloģijas, politiku un sadarbību ar ekspertiem.
Avoti un oriģinālziņas
Lasīt oriģinālo avotu ↗

Komentāri (0)
Komentāru vēl nav. Sāciet diskusiju.
Rakstīt komentāru
Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts