Badacze ujawniają nową metodę ataku AI łatwo omijającą filtry obrazów OpenAI i Google, generującą treści eksplicytne

Image: Ars Technica · Source

Naukowcy z White Circle odkryli nową technikę ataku, która omija filtry bezpieczeństwa w najnowszych modelach AI do generowania obrazów OpenAI i Google, umożliwiając tworzenie treści eksplicytnych bez zaawansowanej wiedzy AI.

Badacze ds. bezpieczeństwa z White Circle, organizacji non-profit wspieranej przez ekspertów branży AI, ujawnili poważne luki w filtrach treści najnowszych modeli AI generujących obrazy tekst-na-obraz od OpenAI i Google. Ich badania wykazały, że nowa i zaskakująco prosta metoda ataku może ominąć obecne zabezpieczenia, generując treści eksplicytne około 13% czasu bez konieczności używania dostosowanych modeli AI czy specjalistycznej wiedzy technicznej.

Testowane modele to między innymi GPT-Image-2 i ChatGPT Images 2.5 od OpenAI oraz DALL·E 3 i Nano Banana 2 wraz z jego aktualizacją Nano Banana 2.1 od Google. Metoda White Circle, nazwana „Red-teaming via Iterative Strategy Evolution” (RISE), wykorzystuje powszechnie dostępne modele AI do generowania i weryfikowania instrukcji przekraczających zabezpieczenia, które niezawodnie tworzą zabronione treści. Ta technika ujawnia, że obecne zabezpieczenia, uważane przez wiodące laboratoria AI za solidne, są słabsze niż się powszechnie uważa.

CEO White Circle, Denis Shilov, stwierdził, że ich odkrycia są „przerażające” w kontekście rosnącej uwagi publicznej na bezpieczeństwo AI. Przypuszcza, że pogorszenie efektywności filtrów może wynikać z priorytetowego traktowania zdolności modeli nad bezpieczeństwem. Pomimo przekazania wyników do wybranych kanałów branżowych, ani OpenAI, ani Google nie odpowiedziały na bezpośrednie zapytania dotyczące nowych odkrytych luk.

Konsekwencje są poważne, zwłaszcza w obliczu rosnącej obecności generowanych przez AI treści intymnych bez zgody i materiałów związanych z wykorzystywaniem seksualnym dzieci (CSAM). Brytyjska organizacja Internet Watch Foundation zgłosiła niepokojący wzrost fotorealistycznych, generowanych przez AI materiałów CSAM na początku 2026 roku. Z kolei badanie Google wykazało, że wielu użytkowników eksperymentujących z generowaniem nagich zdjęć AI robi to w sposób przypadkowy lub niepoważny, co podkreśla znaczenie silnych zabezpieczeń na poziomie modeli.

White Circle postuluje obowiązkowe niezależne audyty bezpieczeństwa AI, argumentując, że obecne samooceny przeprowadzane przez laboratoria AI są niewystarczające. Planują udostępnić swój cały pipeline ataków jako open source, aby pomóc deweloperom lepiej zrozumieć i przeciwdziałać tym zagrożeniom. Naukowcy sugerują również, że metody takie jak RISE mogą zostać rozszerzone na wykrywanie i zapobieganie generowaniu przez AI innych szkodliwych treści, takich jak przemoc wizualna.

Jednak opór branży pozostaje, ponieważ niektóre firmy preferują restrykcyjne umowy poufności, które ograniczają publiczną przejrzystość testów bezpieczeństwa. White Circle sprzeciwia się takim ograniczeniom, podkreślając, że publiczne udostępnianie kluczowych odkryć jest niezbędne do poprawy standardów bezpieczeństwa AI.

W miarę jak modele AI stają się coraz bardziej zaawansowane, niezbędne staje się kompleksowe zewnętrzne ocenianie i zwiększone inwestycje w bezpieczeństwo, aby zapobiegać nadużyciom i rozpowszechnianiu szkodliwych syntetycznych treści. Prace White Circle rzucają światło na pilną potrzebę silniejszych, niezależnie weryfikowalnych zabezpieczeń w szybko rozwijającym się krajobrazie AI.