Forskere avslører ny AI-angrepsmetode som lett omgår OpenAI og Googles bilde-filtre for å generere eksplisitt innhold

Bilde: Ars Technica · Kilde

Forskere hos White Circle har avdekket en ny angrepsteknikk som omgår sikkerhetsfiltre i OpenAI og Googles nyeste AI-bildemodeller, og muliggjør generering av eksplisitt innhold uten avansert AI-ekspertise.

Sikkerhetsforskere fra White Circle, et ideelt selskap støttet av eksperter i AI-industrien, har avdekket betydelige sårbarheter i innholdsfiltreringen til OpenAI og Googles nyeste tekst-til-bilde AI-modeller. Deres forskning viser at en ny og overraskende enkel angrepsmetode kan omgå eksisterende sikkerhetstiltak og generere eksplisitt bildemateriale omtrent 13 % av gangene uten å kreve skreddersydde AI-modeller eller teknisk ekspertise.

Modellene som ble testet inkluderer OpenAI sine GPT-Image-2 og ChatGPT Images 2.5, samt Googles DALL·E 3 og Nano Banana 2 og den oppdaterte Nano Banana 2.1. White Circles metode, kalt "Red-teaming via Iterative Strategy Evolution" (RISE), benytter allment tilgjengelige AI-modeller for å generere og verifisere jailbreak-kommandoer som pålitelig frembringer forbudt innhold. Denne teknikken avslører hvordan nåværende forsvar, som ledende AI-laboratorier omtaler som robuste, er svakere enn offentlig anerkjent.

White Circles administrerende direktør Denis Shilov uttalte at deres funn er "skremmende" i lys av økt offentlig oppmerksomhet rundt AI-sikkerhet. Han antar at nedgangen i filtreringseffektivitet kan skyldes at man prioriterer modellens kapasitet fremfor sikkerhet. Til tross for at disse resultatene er delt gjennom enkelte interne kanaler i industrien, har verken OpenAI eller Google svart på direkte henvendelser angående de nylig identifiserte sårbarhetene.

Konsekvensene er betydelige, spesielt gitt den økende forekomsten av AI-genererte ikke-samtykkende intime bilder og materiale relatert til seksuelt misbruk av barn (CSAM). Den britiske organisasjonen Internet Watch Foundation rapporterte en bekymringsfull økning i fotorealistisk AI-generert CSAM tidlig i 2026. Samtidig fant Googles egen studie at mange brukere som eksperimenterer med AI-genererte nakenbilder gjør det på en uansvarlig måte, noe som understreker viktigheten av sterke sikkerhetsbarrierer på modellnivå.

White Circle går inn for obligatoriske uavhengige tredjeparts sikkerhetsrevisjoner av AI-modeller, og mener at dagens egenvurderinger fra AI-laboratorier er utilstrekkelige. De planlegger å gjøre hele sin angrepspipeline tilgjengelig som åpen kildekode for å hjelpe utviklere med å bedre forstå og håndtere disse risikoene. Forskerne antyder også at metoder som RISE kan utvides for å oppdage og forhindre andre skadelige AI-utdata, slik som voldelige bilder.

Likevel møter de motstand i industrien, hvor noen selskaper foretrekker restriktive taushetserklæringer som begrenser offentlig innsikt i sikkerhetstester. White Circle motsetter seg slike begrensninger og understreker at offentlig deling av kritiske funn er essensielt for å forbedre AI-sikkerhetsstandarder.

Etter hvert som AI-modeller blir mer sofistikerte, blir omfattende ekstern evaluering og økte investeringer i sikkerhet stadig viktigere for å forhindre misbruk og spredning av skadelig syntetisk innhold. White Circles arbeid setter søkelys på det akutte behovet for sterkere, uavhengig verifiserte beskyttelser i det raskt utviklende AI-landskapet.