Pētnieki atklāj jaunu AI uzbrukuma metodi, kas viegli apiet OpenAI un Google attēlu filtrus, radot eksplicitu saturu

Attēls: Ars Technica · Avots

White Circle pētnieki atklāja jaunu uzbrukuma tehniku, kas apiet OpenAI un Google jaunāko AI attēlu modeļu drošības filtrus, ļaujot ģenerēt eksplicitu saturu bez nepieciešamības pēc padziļinātām AI zināšanām.

Drošības pētnieki no White Circle, sabiedriska labuma korporācijas, ko atbalsta AI nozares eksperti, ir atklājuši būtiskas ievainojamības OpenAI un Google jaunāko teksta uz attēlu AI modeļu satura filtrēšanā. Viņu pētījums parāda, ka jauna un pārsteidzoši vienkārša uzbrukuma metode var apiet esošos drošības pasākumus, radot eksplicitus attēlus aptuveni 13% gadījumu bez pielāgotu AI modeļu vai tehniskām prasmēm nepieciešamības.

Testētie modeļi ietver OpenAI GPT-Image-2 un ChatGPT Images 2.5, kā arī Google DALL·E 3 un Nano Banana 2 kopā ar tā atjaunināto versiju Nano Banana 2.1. White Circle metode, ko sauc par “Red-teaming via Iterative Strategy Evolution” (RISE), izmanto plaši pieejamus AI modeļus, lai ģenerētu un pārbaudītu uzlaušanas pieprasījumus, kas uzticami rada aizliegtu saturu. Šī tehnika atklāj, ka pašreizējie aizsardzības līdzekļi, kurus vadošie AI laboratoriji uzskata par robustiem, ir vājāki nekā publiski atzīts.

White Circle izpilddirektors Deniss Šilovs norādīja, ka viņu atklājumi ir “šausminoši”, ņemot vērā pieaugošo sabiedrības uzmanību AI drošībai. Viņš pieļauj, ka filtrēšanas efektivitātes pasliktināšanās var būt saistīta ar modeļa spējām pārvērtēšanu salīdzinājumā ar drošību. Neskatoties uz to, ka rezultāti tika kopīgoti dažos nozares iekšējos kanālos, ne OpenAI, ne Google nav atbildējuši tiešiem jautājumiem par jaunatklātajām ievainojamībām.

Sekas ir būtiskas, īpaši ņemot vērā pieaugošo AI ģenerētu nesankcionētu intīmu attēlu un bērnu seksuālās ļaunprakses materiālu (CSAM) izplatību. Lielbritānijā bāzētā Internet Watch Foundation ziņoja par trauksmainu fotoreālistisku AI ģenerētu CSAM pieaugumu 2026. gada sākumā. Tikmēr Google paša pētījums atklāja, ka daudzi lietotāji, kas eksperimentē ar AI ģenerētām kailfoto, to dara pavirši, uzsverot stingru modeļu drošības pasākumu nozīmi.

White Circle aicina ieviest obligātas neatkarīgas trešās puses drošības auditus AI modeļiem, argumentējot, ka pašreizējās AI laboratoriju pašnovērtēšanas nav pietiekamas. Viņi plāno padarīt savu pilnu uzbrukuma metožu rīku kopu publiski pieejamu, lai palīdzētu izstrādātājiem labāk saprast un risināt šos riskus. Pētnieki arī norāda, ka tādas metodes kā RISE varētu paplašināt, lai atpazītu un novērstu citus kaitīgus AI izvadus, piemēram, vardarbīgu attēlu radīšanu.

Tomēr nozarē pastāv pretestība, jo daži uzņēmumi dod priekšroku ierobežojošiem konfidencialitātes līgumiem, kas samazina publisko caurspīdīgumu drošības testos. White Circle pretojas šādām ierobežošanām, uzsverot, ka svarīgu atklājumu publiska dalīšanās ir būtiska AI drošības standartu uzlabošanai.

Ar AI modeļu attīstību kļūst arvien svarīgāka visaptveroša ārēja novērtēšana un palielinātas investīcijas drošībā, lai novērstu ļaunprātīgu izmantošanu un kaitīga sintētiska satura izplatību. White Circle darbs izgaismo steidzamu nepieciešamību pēc spēcīgākas, neatkarīgi pārbaudītas aizsardzības ātri mainīgajā AI vidē.