Teadlased paljastavad uue AI ründemeetodi, mis kerge vaevaga möödub OpenAI ja Google'i pildifiltritest, luues eksplitsiitset sisu

Pilt: Ars Technica · Allikas

White Circle'i teadlased avastasid uue ründetehnika, mis möödub OpenAI ja Google'i uusimate AI pildimudelite turvafiltritest, võimaldades luua eksplitsiitset sisu ilma edasijõudnud AI teadmiste nõudmiseta.

Turvauurijad White Circle’ist, mis on avalikku hüve teeniv ettevõte AI tööstuse ekspertide toetusel, on paljastanud olulisi turvaauke OpenAI ja Google'i uusimate tekstist pildiks AI mudelite sisufiltrisüsteemides. Nende uuring näitab, et uus ja üllatavalt lihtne ründemeetod võib olemasolevaid kaitsemehhanisme mööda hiilida ning tekitada eksplitsiitseid pilte ligikaudu 13% juhtudest, ilma et oleks vaja kohandatud AI mudeleid või tehnilisi oskusi.

Testitud mudelite hulka kuuluvad OpenAI GPT-Image-2 ja ChatGPT Images 2.5, samuti Google'i DALL·E 3 ning Nano Banana 2 ja selle uuendatud versioon Nano Banana 2.1. White Circle’i meetod nimega „Red-teaming via Iterative Strategy Evolution“ (RISE) kasutab laialt kättesaadavaid AI mudeleid petturlike käskluste loomiseks ja kontrollimiseks, mis usaldusväärselt tekitavad keelatud sisu. See tehnika paljastab, et praegused kaitsevahendid, mida tipptasemel AI laborid nimetavad tugevateks, on tegelikult avalikult tunnustatud seisust nõrgemad.

White Circle'i tegevjuht Denis Šilov märkis, et nende leidud on „hirmutavad“ arvestades avalikkuse kasvavat tähelepanu AI ohutusele. Ta oletab, et filtrite tõhususe halvenemine võib tuleneda mudeli võimekuse seadmisest ohutuse ettepoole. Kuigi tulemusi jagati mõnede tööstuse sisekanalite kaudu, pole nii OpenAI kui Google vastanud otsestele päringutele, mis puudutavad äsja avastatud turvaauke.

Järelmid on olulised, eriti arvestades AI genereeritud nõusolekuta intiimsete piltide ja laste seksuaalset ärakasutamist käsitleva materjali (CSAM) leviku suurenemist. Ühendkuningriigis asuv Internet Watch Foundation teatas 2026. aasta alguses häirivast fotorealistliku AI-põhise CSAM-i kasvust. Samal ajal leidis Google'i enda uuring, et paljud kasutajad, kes katsetavad AI-dega alastipilte, teevad seda kergekäeliselt, rõhutades mudelitestide tugevate kaitsevahendite tähtsust.

White Circle pooldab AI mudelite kohustuslikke sõltumatuid kolmanda osapoole turvaauditit, väites, et praegused AI laborite isehindamised ei ole piisavad. Nad kavatsevad oma kogu ründetöö käigus kasutatud tööriistakomplekti avalikel alustel vabastada, et aidata arendajatel paremini mõista ja lahendada neid riske. Uurijad märgivad ka, et selliseid meetodeid nagu RISE võiks laiendada teiste ohtlike AI väljundite, näiteks vägivaldsete kujutiste tuvastamiseks ja tõkestamiseks.

Siiski püsib tööstuses vastuseis, kus mõned ettevõtted eelistavad rangemaid konfidentsiaalsuslepinguid, mis piiravad avalikku läbipaistvust turbetestide osas. White Circle on selliste piirangute vastu, rõhutades, et kriitiliste leidude avalik jagamine on AI ohutustasemete parandamiseks hädavajalik.

AI mudelite arenedes muutuvad põhjalikud välise hindamise meetmed ja suurenenud investeeringud ohutusse järjest tähtsamaks vältimaks väärkasutust ja kahjuliku sünteetilise sisu levikut. White Circle’i töö toob teravalt esile vajalikkuse tugevamate, sõltumatult kontrollitud kaitsemehhanismide järele kiiresti arenevas AI valdkonnas.