Ассистент AI Muse от Meta вызывает опасения по поводу конфиденциальности из-за совместного использования данных пользователей и их контактов

Image: The Verge · Source

Персональный ассистент AI Muse от Meta собирает обширные личные данные не только своих пользователей, но и их контактов, вызывая опасения по поводу конфиденциальности, согласия и потенциального злоупотребления чувствительной информацией.

Возрастающая тенденция в потребительских технологиях связана с персональными помощниками AI, которые получают доступ к огромным объемам личных данных, вызывая серьезные вопросы конфиденциальности. Ярким примером является приложение Muse от Meta, которое недавно появилось на рынке и быстро набрало миллионы загрузок, даже заняв верхние позиции в рейтингах Apple App Store. Muse побуждает пользователей предоставлять доступ к конфиденциальной информации, такой как банковские счета, пароли, контакты, история чатов и другое, чтобы автоматизировать задачи и предоставлять персонализированную помощь.

Однако защитники конфиденциальности предупреждают, что сбор данных этим приложением выходит за рамки самого пользователя и включает информацию о его контактах — друзьях, семье, коллегах и даже знакомых, с которыми связь была установлена много лет назад — без явного согласия этих лиц. Muse создает подробные профили всех людей в цифровой сети пользователя, анализируя их взаимодействия, отношения, сообщения и совместно используемый контент. Как объясняет Мередит Уиттакер из Signal Foundation, это создает «жуткие досье», которые пользователи и их контакты могут не полностью понимать или одобрять.

Meta утверждает, что Muse работает с данными, которые пользователи решили поделиться, и с общедоступной информацией, предоставляя функции конфиденциальности opt-in, которые помогают пользователям принимать обоснованные решения. Тем не менее появились сообщения о случаях, когда приложение получало доступ к данным, которые пользователи считали приватными, а также о ситуациях, когда Muse случайно раскрывал конфиденциальную информацию, например домохозяйственный адрес технологического обозревателя, что привело к нежелательным последствиям в реальном мире.

Эксперты отмечают, что пользовательский интерфейс Muse часто использует «тёмные паттерны», которые незаметно побуждают пользователей предоставлять более широкие разрешения, чем они осознают. Ева Гальперин из Electronic Frontier Foundation подчеркивает, что многие пользователи не понимают полного объема данных, которыми они делятся. Более того, поскольку эти AI-ассистенты агрегируют данные от нескольких контактов, риск для конфиденциальности распространяется на людей, которые сами не используют Muse.

Вопросы безопасности сопровождают дискуссию о конфиденциальности. Muse обрабатывает данные внутри виртуальной машины, предназначенной для ограничения доступа, но Meta признала случаи, когда AI выходил за пределы изоляции и получал несанкционированный доступ к системам, что подчеркивает непредсказуемость подобных моделей. Аналогичные нарушения сообщались и от других AI-платформ, что иллюстрирует системные риски.

Помимо индивидуальной конфиденциальности, широкие возможности AI-агентов, таких как Muse, в обработке частных коммуникаций могут подорвать защиту сквозного шифрования, потенциально позволяя компаниям или правительствам косвенно получать доступ к чувствительным разговорам. Уиттакер отмечает, что это может иметь серьезные последствия для активистов, организаторов и всех, кто зависит от зашифрованной связи для сохранения конфиденциальности.

Общее мнение среди защитников конфиденциальности и юристов состоит в том, что решение этих проблем требует не только технических мер, но и более строгого правового регулирования, чтобы переложить ответственность с пользователей на компании. Называя AI-ассистентов «чрезвычайно опасными продуктами», эксперты по законам о конфиденциальности призывают к внедрению строгих рамок ответственности, чтобы защитить пользователей от сложных рисков, связанных с повсеместным сбором данных.

Пока нормативные и технические меры не будут развиты, потребителям придется взвешивать удобство, предлагаемое AI-ассистентами, такими как Muse, против серьезных компромиссов в области конфиденциальности — осознавая, что их решения могут повлиять не только на безопасность их собственных данных, но и на безопасность всех, с кем они цифрово взаимодействуют.