Investigadores revelan nuevo método de ataque en IA que evade fácilmente los filtros de imagen de OpenAI y Google para generar contenido explícito

Image: Ars Technica · Source

Investigadores de White Circle descubrieron una nueva técnica de ataque que evade los filtros de seguridad en los modelos de imagen IA más recientes de OpenAI y Google, permitiendo la generación de contenido explícito sin necesidad de conocimientos avanzados en IA.

Investigadores en seguridad de White Circle, una corporación de beneficio público apoyada por expertos de la industria de IA, han expuesto vulnerabilidades sustanciales en el filtrado de contenido de los modelos IA de texto a imagen más recientes de OpenAI y Google. Su investigación demuestra que un método de ataque nuevo y sorprendentemente simple puede eludir las salvaguardas existentes, generando imágenes explícitas aproximadamente el 13% del tiempo sin requerir modelos de IA personalizados ni experiencia técnica.

Los modelos probados incluyen GPT-Image-2 y ChatGPT Images 2.5 de OpenAI, así como DALL·E 3, Nano Banana 2 y su actualización Nano Banana 2.1 de Google. El método de White Circle, llamado "Red-teaming via Iterative Strategy Evolution" (RISE), utiliza modelos de IA ampliamente disponibles para generar y verificar indicaciones de jailbreak que producen consistentemente contenido prohibido. Esta técnica revela que las defensas actuales, presentadas como robustas por los principales laboratorios de IA, son más débiles de lo que se reconoce públicamente.

Denis Shilov, CEO de White Circle, declaró que sus hallazgos son "horribles" ante el aumento del escrutinio público sobre la seguridad en IA. Él hipotetiza que el deterioro en la efectividad del filtrado puede deberse a priorizar la capacidad del modelo sobre la seguridad. A pesar de compartir estos resultados a través de algunos canales internos de la industria, ni OpenAI ni Google han respondido a consultas directas sobre las vulnerabilidades recién identificadas.

Las implicaciones son significativas, especialmente ante la creciente prevalencia de imágenes íntimas no consensuadas generadas por IA y materiales de abuso sexual infantil (CSAM). La Internet Watch Foundation del Reino Unido reportó un alarmante aumento en CSAM fotorrealista generado por IA a principios de 2026. Mientras tanto, un estudio interno de Google encontró que muchos usuarios que experimentan con desnudos generados por IA lo hacen de manera casual, resaltando la importancia de salvaguardas sólidas a nivel de modelo.

White Circle aboga por auditorías de seguridad obligatorias independientes de terceros para los modelos de IA, argumentando que las autoevaluaciones actuales de los laboratorios son insuficientes. Planean publicar como código abierto toda su cadena de ataques para ayudar a los desarrolladores a entender y abordar mejor estos riesgos. Los investigadores sugieren además que métodos como RISE podrían extenderse para detectar y prevenir otras salidas dañinas de IA, como imágenes violentas.

Sin embargo, persiste la resistencia en la industria, con algunas compañías favoreciendo acuerdos restrictivos de confidencialidad que limitan la transparencia pública sobre pruebas de seguridad. White Circle se opone a tales restricciones, enfatizando que compartir públicamente hallazgos críticos es esencial para mejorar los estándares de seguridad en IA.

A medida que los modelos de IA se vuelven más sofisticados, la evaluación externa integral y la mayor inversión en seguridad son cada vez más vitales para prevenir usos indebidos y la difusión de contenido sintético dañino. El trabajo de White Circle pone en evidencia la urgente necesidad de protecciones más fuertes y verificadas de forma independiente en el panorama de IA que evoluciona rápidamente.