Tutkijat paljastavat uuden tekoälyhyökkäysmenetelmän, joka helposti ohittaa OpenAI:n ja Googlen kuvafiltterit ja luo eksplisiittistä sisältöä

Kuva: Ars Technica · Lähde

White Circle -tutkijat ovat löytäneet uuden hyökkäystekniikan, joka ohittaa OpenAI:n ja Googlen uusimpien tekoälykuvamallien turvafiltterit mahdollistaen eksplisiittisen sisällön generoinnin ilman edistynyttä tekoälyosaamista.

White Circle -turvallisuustutkijat, jotka työskentelevät yleishyödyllisenä yhteisönä tekoälyalan asiantuntijoiden tukemina, ovat paljastaneet merkittäviä haavoittuvuuksia OpenAI:n ja Googlen uusimmissa tekstistä kuvaan generoivissa tekoälymalleissa. Heidän tutkimuksensa osoittaa, että uusi ja yllättävän yksinkertainen hyökkäysmenetelmä voi kiertää olemassa olevat suojaukset, tuottaen eksplisiittisiä kuvia noin 13 % kerroista ilman räätälöityjä tekoälymalleja tai teknistä asiantuntemusta.

Testatut mallit sisältävät OpenAI:n GPT-Image-2:n ja ChatGPT Images 2.5:n sekä Googlen DALL·E 3:n, Nano Banana 2:n ja päivitetyn Nano Banana 2.1:n. White Circlen menetelmä, nimeltään "Red-teaming via Iterative Strategy Evolution" (RISE), hyödyntää laajasti saatavilla olevia tekoälymalleja luodakseen ja varmistaakseen jailbreak-kehotteita, jotka luottavasti tuottavat kiellettyä sisältöä. Tämä tekniikka paljastaa, että nykyiset puolustuskeinot, joita johtavat tekoälylaboratoriot mainostavat vahvoina, ovat heikommat kuin julkisesti tunnustetaan.

White Circlen toimitusjohtaja Denis Shilov kommentoi, että heidän löydöksensä ovat "kauhistuttavia" ottaen huomioon lisääntyvän julkisen valvonnan tekoälyn turvallisuudesta. Hän olettaa, että suodatusjärjestelmien heikkeneminen saattaa johtua mallien suorituskyvyn priorisoinnista turvallisuuden kustannuksella. Vaikka tulokset on jaettu joissakin alan sisäisissä kanavissa, eivät OpenAI tai Google ole vastanneet suoriin tiedusteluihin äskettäin löydetyistä haavoittuvuuksista.

Seuraukset ovat merkittäviä, erityisesti tekoälyn tuottamien ei-toivottujen intiimien kuvien ja lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin (CSAM) lisääntyessä. Yhdistyneessä kuningaskunnassa toimiva Internet Watch Foundation raportoi huolestuttavasta valokuvantarkasta tekoälyn generoiman CSAM:n lisääntymisestä vuoden 2026 alussa. Samaan aikaan Googlen oma tutkimus totesi, että monet käyttäjät kokeilevat tekoälyn generoimia alastomia kuvia huolettomasti, mikä korostaa vahvojen mallitason suojatoimien tärkeyttä.

White Circle ajaa pakollisia riippumattomia kolmannen osapuolen turvallisuusauditointeja tekoälymalleille, sillä nykyiset itsearvioinnit tekoälylaboratorioissa eivät heidän mukaansa riitä. He aikovat julkaista koko hyökkäysprosessinsa avoimesti, jotta kehittäjät voivat paremmin ymmärtää ja torjua näitä riskejä. Tutkijat ehdottavat myös, että RISE:n kaltaisia menetelmiä voitaisiin laajentaa tunnistamaan ja estämään muita haitallisia tekoälytuotoksia, kuten väkivaltaisia kuvia.

Kuitenkin alalla vallitsee vastustus, ja jotkut yritykset suosivat rajoittavia salassapitosopimuksia, jotka estävät julkista läpinäkyvyyttä turvallisuustestien osalta. White Circle vastustaa tällaisia rajoituksia ja korostaa, että kriittisten löydösten julkinen jakaminen on välttämätöntä tekoälyn turvallisuusstandardien parantamiseksi.

Tekoälymallien kehittyessä vaaditaan yhä laajempaa ulkopuolista arviointia ja parannettuja turvallisuusinvestointeja väärinkäytösten ja vahingollisen synteettisen sisällön leviämisen estämiseksi. White Circlen työ korostaa kiireellistä tarvetta vahvemmille, riippumattomasti varmennetuille suojatoimille nopeasti kehittyvässä tekoälykentässä.