OpenAI tuo esittelee uusia työkaluja lasten seksuaalista hyväksikäyttöaineistoa vastaan kuvantunnistimen ja ChatGPT-varoitusten avulla

Kuva: TechCrunch · Lähde
OpenAI on julkaissut kuvantunnistimen, joka havaitsee tekoälyn tuottamaa ja muuta lasten seksuaalisen hyväksikäytön materiaalia (CSAM), sekä ChatGPT-varoituksia ja väliaikaisia estoja estääkseen tämän sisällön käytön ja luomisen, vahvistaen lapsiturvatoimia.
OpenAI on lanseerannut joukon uusia työkaluja lasten seksuaalisen hyväksikäyttöaineiston (CSAM) torjumiseksi vastauksena tekoälyyn liittyvien turvallisuusriskien lisääntymiseen. Keskeinen osa näitä toimia on uusi kuvantunnistin, joka pystyy havaitsemaan CSAM-kuvia, mukaan lukien tekoälyn luomia kuvia. Tämä tunnistin antaa pisteytyksiä kuvan sisältämän hyväksikäyttöaineiston todennäköisyydestä, tarjoten ohjeistusta ihmistarkastajille.
Tunnistimen kehitys tehtiin yhteistyössä National Center for Missing and Exploited Childrenin (NCMEC) kanssa. OpenAI on alkanut jakaa tämän työkalun käyttöoikeuksia valituille yrityksille API:n kautta maksutta, mikä helpottaa laajempaa käyttöönottoa. Varhaiset testitulokset osoittivat, että tunnistin vähensi liputettujen kuvien määrää 48 % säilyttäen samalla saman määrän hyväksikäyttökuvien havaitsemisessa, vähentäen näin sisällönvalvojien työmäärää. Lisäksi tunnistimen liputtamat kuvat oli kaksinkertaisesti todennettu hyväksikäytön sisältäviksi.
Samaan aikaan OpenAI on integroinut uusia varoitusmekanismeja ChatGPT:hen. Kun käyttäjä yrittää käyttää tai luoda lapsiin liittyvää seksuaalista materiaalia, järjestelmä näyttää hälytyksen, tarjoaa linkkejä erikoistuneisiin tukipalveluihin haitallisen käyttäytymisen estämiseksi ja asettaa käyttäjätilin 24 tunnin väliaikaiseen jäädytykseen varoituksena. ChatGPT jo estää CSAM-pyyntöjä, ja toistuvat rikkomukset voivat johtaa pysyvään tilin sulkemiseen.
Nämä varoitukset ja ohjeistukset on kehitetty yhteistyössä asiantuntijaorganisaatioiden kuten Protect Children, Lucy Faithfull Foundation ja akateemisten tutkijoiden kanssa, jotka arvioivat peloteviestinnän tehokkuutta. OpenAI on myös julkaissut kehittäjille tarkoitettuja ohjeita CSAM:n ehkäisyyn, tunnistamiseen ja raportointiin, mikä on auttanut joitakin kehittäjiä ottamaan käyttöön lapsiturvatoimia ja luomaan yhteyksiä NCMEC:n ilmoituskanaviin.
Näiden toimien lisäksi OpenAI on varustanut lapsiturvallisuuteen erikoistuneet lainvalvontaviranomaiset tekoälypohjaisilla tutkintalisäosilla, analyysityökaluilla ja koulutusmateriaaleilla, varmistaen tekoälyn vastuullisen ja tehokkaan käytön CSAM:n torjunnassa. Pääsy näihin resursseihin on tarkasti hallinnoitu ohjelman ylläpitäjien toimesta.
Tämä hanke seuraa useita OpenAI:ta kohtaan esitettyjä kritiikkejä ja oikeudenkäyntejä heidän teknologioidensa väärinkäytöstä, erityisesti lasten turvallisuuteen liittyen. Yritys on aiemmin päivittänyt tekoälymallejaan ja sisältöohjeitaan turvallisuuden parantamiseksi sekä julkaissut nuorille sopivan ChatGPT-version.
OpenAI:n viimeisimmät edistysaskeleet heijastavat jatkuvia pyrkimyksiä vastata tekoälyn ja lapsisuojelun monimutkaisiin haasteisiin, osoittaen monitahoisen lähestymistavan, joka yhdistää teknologian, politiikan ja asiantuntijayhteistyön.
Lähteet ja alkuperäiset raportit
Lue alkuperäinen lähde ↗

Kommentit (0)
Ei vielä kommentteja. Aloita keskustelu.
Kirjoita kommentti
Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili