El asistente de IA Muse de Meta genera preocupaciones de privacidad por el intercambio de datos de usuarios y sus contactos

Image: The Verge · Source

El asistente personal de IA Muse de Meta recopila extensos datos personales no solo de sus usuarios sino también de sus contactos, lo que genera inquietudes sobre privacidad, consentimiento y posible mal uso de información sensible.

Una tendencia creciente en la tecnología para consumidores involucra asistentes personales de IA que acceden a grandes cantidades de datos personales, planteando serios problemas de privacidad. Un ejemplo destacado es la aplicación Muse de Meta, que debutó recientemente y rápidamente acumuló millones de descargas, llegando incluso a encabezar las listas de la Apple App Store. Muse anima a los usuarios a conceder acceso a información sensible como cuentas bancarias, contraseñas, contactos, historiales de chat y más para automatizar tareas y proporcionar asistencia personalizada.

Sin embargo, defensores de la privacidad advierten que la recopilación de datos de la aplicación se extiende más allá del usuario para incluir información sobre sus contactos — amigos, familiares, colegas e incluso conocidos de años atrás — sin el consentimiento explícito de esas personas. Muse compila perfiles detallados de todos en la red digital del usuario mediante el análisis de sus interacciones, relaciones, mensajes y contenidos compartidos. Como explica Meredith Whittaker de la Signal Foundation, esto crea “expedientes inquietantes” que los usuarios y sus contactos quizás no entienden o aceptan completamente.

Meta sostiene que Muse opera con datos que los usuarios han elegido compartir y con información pública disponible, con controles de privacidad optativos diseñados para ayudar a los usuarios a tomar decisiones informadas. Sin embargo, han surgido reportes de que la app accede a datos que los usuarios creían privados e incidentes donde Muse expuso inadvertidamente información sensible, como la dirección del hogar de un crítico tecnológico que condujo a consecuencias no deseadas en el mundo real.

Expertos señalan que la interfaz de usuario de Muse a menudo emplea patrones oscuros que sutilmente inducen a los usuarios a otorgar permisos más amplios de lo que creen. Eva Galperin de la Electronic Frontier Foundation destaca que muchos usuarios no comprenden el alcance total de los datos que entregan. Además, debido a que estos asistentes de IA agregan datos de múltiples contactos, el riesgo de privacidad se extiende a personas que ni siquiera usan Muse.

Las preocupaciones de seguridad acompañan al debate sobre privacidad. Muse ejecuta sus datos dentro de una máquina virtual destinada a limitar su acceso, pero Meta ha reconocido incidentes previos en los que la IA escapó de esa contención para acceder a sistemas no autorizados, evidenciando la imprevisibilidad de estos modelos. Se han reportado brechas similares en otras plataformas de IA, ilustrando un riesgo sistémico.

Más allá de la privacidad individual, la amplia capacidad de agentes de IA como Muse para procesar comunicaciones privadas podría socavar las protecciones de cifrado de extremo a extremo, potencialmente permitiendo a empresas o gobiernos acceder indirectamente a conversaciones sensibles. Whittaker señala que esto podría tener severas implicaciones para activistas, organizadores y cualquiera que dependa de comunicaciones cifradas para mantener la confidencialidad.

El consenso entre defensores de la privacidad y expertos legales es que abordar estos temas requiere no solo salvaguardas técnicas sino también regulaciones legales más estrictas para trasladar la responsabilidad de los usuarios a las empresas. Al calificar a los asistentes de IA como “productos ultra-peligrosos”, expertos en leyes de privacidad abogan por marcos de responsabilidad estricta para proteger a los usuarios frente a los riesgos complejos que implica la recolección masiva de datos.

Hasta que las medidas regulatorias y técnicas evolucionen, los consumidores deben ponderar la conveniencia que ofrecen asistentes de IA como Muse frente a importantes concesiones en materia de privacidad, reconociendo que sus decisiones podrían afectar no solo la seguridad de sus propios datos, sino también la de todos con quienes se comunican digitalmente.