El asistente de IA Muse de Meta informa mezcla de datos de usuarios y violación de privacidad, según empleados

Image: TechCrunch · Source
El asistente de IA de Meta, Muse, combina erróneamente conversaciones y revela información privada incorrecta como detalles bancarios y mensajes personales, lo que genera preocupaciones internas sobre la privacidad.
El agente de IA de Meta, Muse, lanzado en septiembre y adoptado rápidamente con más de 10 millones de descargas, ha sido objeto de escrutinio tras informes de empleados sobre problemas importantes de privacidad. Según una investigación de Reuters basada en publicaciones internas de la empresa, se ha observado que Muse mezcla conversaciones entre diferentes cuentas de usuario y revela datos privados que no corresponden al usuario involucrado.
Los empleados reportaron casos en los que Muse sacó a la luz información no relacionada, incluyendo solicitudes de cuidado infantil que nunca hicieron, consejos de carrera no solicitados, pedidos de productos que no realizaron e incluso saldos bancarios pertenecientes a otras personas. Un ejemplo involucró un mensaje inesperado dentro de un chat sobre el clima y las mareas, que incluía actualizaciones específicas del saldo bancario para dos distintas instituciones financieras. Otra empleada notó que Muse enviaba un recordatorio sobre un mensaje de su hermana en Signal, una aplicación de mensajería encriptada separada, a pesar de no haberse otorgado permisos para acceder a esa aplicación.
Estos incidentes han generado comprensiblemente serias preocupaciones acerca de la privacidad de los usuarios y la seguridad de los datos dentro de la empresa. Un portavoz de Meta respondió enfatizando el papel de las pruebas internas realizadas por empleados en el desarrollo del producto, afirmando que las versiones de Muse probadas internamente a menudo contienen funciones y comportamientos que aún no están disponibles para el público. El proceso de pruebas está destinado a recopilar retroalimentación para mejorar la seguridad y las protecciones de privacidad antes del lanzamiento más amplio.
Mientras Muse continúa ganando popularidad, estos reportes ponen de manifiesto los desafíos de desplegar asistentes de IA que interactúan con información personal sensible a través de múltiples plataformas. Meta enfrenta la tarea de asegurar que Muse pueda brindar asistencia útil sin comprometer la confidencialidad del usuario ni mezclar datos entre cuentas. La empresa no ha revelado causas técnicas específicas detrás de estas confusiones de datos, pero reconoce la necesidad de controles mejorados.
A medida que agentes de IA como Muse se integran en la comunicación cotidiana, incidentes como estos subrayan la importancia de salvaguardas estrictas de privacidad y transparencia sobre el uso de datos, especialmente durante las fases de pruebas de desarrollo. Tanto usuarios como empleados estarán atentos a cómo Meta aborda estas vulnerabilidades para restaurar la confianza en el manejo de datos privados por parte de su asistente de IA.
Fuentes e informes originales
Read the original source ↗

Comentarios (0)
Aún no hay comentarios.
Escribe un comentario
Los comentarios se publican tras moderación. Tu nombre y comentario serán públicos. Cuenta