Las imágenes de deepfake de celebridades verificadas con IA en Instagram destacan los riesgos de la plataforma

Image: Illustrative image · Instagram · Public domain · Source

Las imágenes generadas por IA de celebridades con cuentas verificadas en Instagram se están extendiendo ampliamente, lo que genera preocupaciones sobre la suplantación de identidad, contenido engañoso y las salvaguardas de la plataforma.

Un incidente reciente en Instagram reveló desafíos significativos planteados por imágenes deepfake generadas por IA de celebridades en plataformas de redes sociales. Una cuenta de Instagram @miagoth_, marcada con un cheque azul verificado y que afirmaba ser la actriz Mia Goth, publicó una imagen generada por IA de la actriz vistiendo una camiseta con la frase "MY EX IS MY BIGGEST FAN" (Mi ex es mi fan más grande) poco después de que ella solicitara el divorcio del actor Shia LaBeouf. Acompañada de la canción “Single Ladies (Put a Ring on It)” de Beyoncé, la publicación obtuvo casi 500,000 likes, incluidos de colegas de la industria del entretenimiento, a pesar de que la cuenta era una página de fans y no auténtica.

El representante de Goth confirmó a The Verge que habían reportado previamente la cuenta a Instagram por publicar imágenes falsas generadas por IA. Sin embargo, el sistema de Instagram permitió que la cuenta de fans obtuviera el estado de verificación, una decisión calificada como "preocupante" por el portavoz de Goth, quien criticó a la plataforma por priorizar imágenes manipuladas en lugar de proteger los derechos de imagen de las figuras públicas.

Esta imagen viral generada por IA no solo se difundió en Instagram, sino que también permeó medios de chismes de celebridades y apareció destacadamente en resultados de búsqueda de Google, representándola erróneamente como un comentario auténtico sobre el divorcio de Goth. Instagram finalmente eliminó la cuenta fraudulenta por suplantar a una figura pública.

La proliferación de deepfakes de celebridades generadas por IA va más allá de este caso, con numerosas cuentas de Instagram que producen imágenes y videos manipulados de figuras conocidas como Scarlett Johansson, Taylor Swift y otras, a menudo sexualizados o engañosos. Meta, la empresa matriz de Instagram, confirmó a The Verge que eliminó varias cuentas tras consultas, pero reconoció los desafíos continuos para vigilar este contenido.

Meta aplica políticas contra la suplantación y exige que los videos generados por IA estén etiquetados, pero las imágenes fijas siguen exentas de requisitos de divulgación de IA, lo que limita la transparencia sobre el contenido manipulado. Esta inconsistencia permite que las imágenes generadas por IA circulen ampliamente sin que los usuarios estén claramente informados.

En comparación con otras plataformas, YouTube emplea un sistema de detección de imagen más robusto desarrollado con la industria del entretenimiento, que escanea tanto contenido visual como auditivo similar y atiende solicitudes de eliminación bajo consideraciones de interés público. Sin embargo, el volumen y la naturaleza evolutiva de los medios generados por IA complican la aplicación de normas en redes sociales.

El incidente de Mia Goth ilustra fallas más amplias en las medidas de confianza y seguridad en las redes sociales, donde las imágenes generadas por IA pueden engañar a los usuarios, propagar narrativas falsas sobre asuntos personales sensibles e infringir derechos individuales. Sin un marco legal integral universal para los derechos de imagen generados por IA, la responsabilidad recae en las políticas de la plataforma y soluciones tecnológicas para mitigar el mal uso.

A medida que las herramientas de generación de contenido IA se vuelven más accesibles y sofisticadas, las plataformas de redes sociales enfrentan una creciente presión para mejorar la verificación, el etiquetado de contenido y los mecanismos de aplicación para proteger a las figuras públicas y usuarios de medios engañosos y dañinos creados con IA.