OpenAI tutvustab uusi tööriistu lapse seksuaalse väärkohtlemise materjalide vastu võitlemiseks pildiklassifikaatori ja ChatGPT hoiatusedega

Pilt: TechCrunch · Allikas
OpenAI on välja andnud pildiklassifikaatori AI-luure ja muu lapse seksuaalset väärkohtlemist kajastava materjali (CSAM) tuvastamiseks, lisaks ChatGPT hoiatused ja ajutised blokeeringud selle sisu loomise ja juurdepääsu takistamiseks, tugevdades laste kaitse meetmeid.
OpenAI on lansseerinud uue tööriistade komplekti, mille eesmärk on võidelda lapse seksuaalse väärkohtlemise materjaliga (CSAM), reageerides kasvavatele muredele AI-ga seotud ohutusriskide pärast. Neist keskne on uuenduslik pildiklassifikaator, mis suudab tuvastada CSAM-i pilte, sealhulgas kunstlikult genereeritud.
See klassifikaator annab skoori, mis näitab tõenäosust, et pilt sisaldab väärkohtlemisega seotud materjali, pakkudes juhiseid inimvaatlejatele.
Klassifikaatori arendus toimus koostöös National Center for Missing and Exploited Children (NCMEC)iga. OpenAI on alustanud selle tööriista jagamist valitud ettevõtetega läbi oma API tasuta, võimaldades laiemat kasutuselevõttu. Varased testid näitasid, et klassifikaator vähendas liputatud piltide arvu 48% võrra, säilitades samal ajal sama arvu väärkohtlemismaterjali avastamist, vähendades seeläbi sisu moderaatorite töökoormust. Lisandvalt olid klassifikaatori poolt liputatud pildid kaks korda tõenäolisemalt kinnitatud väärkohtlevaks.
Paralleelselt on OpenAI integreerinud uued hoiatusmehhanismid ChatGPT-sse. Kui kasutaja püüab ligi pääseda või luua lapsi seksuaalselt kujutavat sisu, kuvab süsteem hoiatuse, pakub linke spetsialiseeritud tugiresurssidele, mis aitavad peatada kahjulikku käitumist, ning peatab kasutaja konto ajutiselt 24 tunniks hoiatuse eesmärgil. ChatGPT blokeerib juba CSAM-iga seotud sisupäringud ning korduvad rikkumised võivad viia konto püsiva lõpetamiseni.
Need hoiatused ja juhised on välja töötatud koostöös ekspertorganisatsioonidega nagu Protect Children, Lucy Faithfull Foundation ja akadeemiliste teadlastega, kes hindasid eemalepeletava sõnumite mõju. OpenAI avaldas ka arendajatele mõeldud juhised CSAM-i ennetamiseks, tuvastamiseks ja raporteerimiseks, mis on aidanud mõnel arendajal rakendada laste turvameetmeid ning siduda end NCMEC-i raportimise kanalitega.
Peale nende meetmete on OpenAI varustanud lapseturbe alal tegutsevaid õiguskaitse asutusi AI-põhiste uurimistöö pluginate, analüüsitööriistade ja koolitusmaterjalidega, tagades vastutustundliku ja efektiivse AI kasutamise CSAM-i vastu võitlemisel. Nende ressursside kasutus on hoolikalt reguleeritud programmi administraatorite poolt.
See algatus järgneb mitmetele kriitikatele ja kohtuvaidlustele, millega OpenAI on kokku puutunud seoses tehnoloogiate väärkasutusega, eriti laste ohutuse riskide tõttu. Ettevõte on varem täiustanud oma AI mudeleid ja sisujuhiseid turvalisuse tõstmiseks ning käivitanud noortele sõbralikuma ChatGPT versiooni.
OpenAI uusimad edusammud peegeldavad jätkuvaid pingutusi keeruliste AI ja lapsekaitse väljakutsete lahendamiseks, demonstreerides mitmepoolset strateegiat, mis ühendab tehnoloogia, poliitika ja eksperdikoostöö.
Allikad ja originaaluudised
Loe originaali allikat ↗

Kommentaarid (0)
Kommentaare veel pole. Alusta arutelu.
Kirjuta kommentaar
Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto