KI

OpenAI introduserer nye verktøy for å bekjempe seksuelt misbruk av barn med bildeklassifiserer og ChatGPT-advarsler

Tendela Briefing ·
6 visninger · 0 Kommentarer
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch

Bilde: TechCrunch · Kilde

OpenAI har lansert en bildeklassifiserer som oppdager AI-genererte og andre CSAM-bilder sammen med ChatGPT-advarsler og midlertidige blokkeringer for å hindre tilgang til og opprettelse av slikt innhold, for å styrke tiltak for barns sikkerhet.

OpenAI har lansert en rekke nye verktøy som har som mål å bekjempe seksuelt misbruk av barn (CSAM), som svar på økende bekymringer rundt AI-relaterte sikkerhetsrisikoer. Kjernen i disse tiltakene er en ny bildeklassifiserer som kan oppdage CSAM-bilder, inkludert kunstig genererte. Denne klassifisereren gir poeng som indikerer sannsynligheten for at et bilde inneholder overgrepsinnhold, og gir veiledning til menneskelige granskere.

Utviklingen av klassifisereren ble gjort i samarbeid med National Center for Missing and Exploited Children (NCMEC). OpenAI har begynt å dele tilgang til dette verktøyet med utvalgte selskaper via API-en sin uten kostnad, for å fasilitere bredere bruk. Tidlig testing viste at klassifisereren reduserte antall flaggede bilder med 48 % samtidig som den oppdaget samme antall overgrepsbilder, noe som reduserer arbeidsmengden for innholdsmoderatører. I tillegg var bilder flagget av klassifisereren dobbelt så sannsynlig å bli bekreftet som overgrep.

Samtidig har OpenAI integrert nye advarselmekanismer i ChatGPT. Når en bruker forsøker å få tilgang til eller lage innhold som seksualiserer barn, viser systemet en advarsel, tilbyr lenker til spesialiserte støtteressurser for å stoppe skadelig atferd, og suspenderer brukerens konto midlertidig i 24 timer som en advarsel. ChatGPT blokkerer allerede forespørsler om CSAM-innhold, og gjentatte brudd kan føre til permanent kontostenging.

Disse advarslene og retningslinjene ble utviklet i samråd med ekspertorganisasjoner som Protect Children, Lucy Faithfull Foundation, og akademiske forskere som evaluerte effektiviteten av avskrekkende meldinger. OpenAI har også publisert utviklerretningslinjer for å støtte forebygging, oppdagelse og rapportering av CSAM, som har hjulpet noen utviklere med å implementere barnesikkerhetstiltak og koble seg til NCMECs rapporteringskanaler.

I tillegg til disse tiltakene har OpenAI utstyrt rettshåndhevende myndigheter som spesialiserer seg på barnesikkerhet med AI-drevne etterforskningspluginer, analytiske verktøy og opplæringsressurser, for å sikre ansvarlig og effektiv bruk av AI i kampen mot CSAM. Tilgang til disse ressursene administreres nøye av programadministratorer.

Dette initiativet følger etter ulike kritikker og søksmål rettet mot OpenAI angående misbruk av deres teknologier, spesielt med hensyn til risiko for barn. Selskapet har tidligere oppdatert sine AI-modeller og innholdsrutiner for å forbedre sikkerheten, samt lansert en tenåringsvennlig versjon av ChatGPT.

OpenAIs nyeste fremskritt gjenspeiler pågående innsats for å møte komplekse utfordringer knyttet til AI og barns beskyttelse, og illustrerer en flerfasettert tilnærming som kombinerer teknologi, policy og samarbeid med eksperter.

Kilder og originalrapportering

Kilde: TechCrunch
Les originalkilden ↗

Kommentarer (0)

Ingen kommentarer ennå. Start diskusjonen.

Skriv en kommentar

Kommentarer publiseres etter moderering. Ditt navn og kommentar vil være synlige offentlig. Konto