AI

ИИ-ассистент Muse от Meta перепутал данные пользователей и нарушил конфиденциальность, сообщают сотрудники

Tendela Briefing ·
3 просмотров · 0 Комментарии
Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says | TechCrunch

Image: TechCrunch · Source

ИИ-ассистент Muse компании Meta случайно объединяет разговоры и раскрывает неверную личную информацию, включая банковские данные и личные сообщения, вызывая внутренние опасения по поводу конфиденциальности.

ИИ-агент Meta под названием Muse, запущенный в сентябре и быстро набравший более 10 миллионов загрузок, оказался под пристальным вниманием после сообщений сотрудников о серьёзных проблемах с конфиденциальностью. Согласно расследованию Reuters, основанному на внутренних сообщениях компании, Muse был замечен в путанице разговоров между разными учетными записями пользователей и раскрывал личные данные, не относящиеся к конкретному пользователю.

Сотрудники сообщали о случаях, когда Muse показывал нерелевантную информацию, включая запросы по уходу за детьми, которых они не делали, нежелательные карьерные советы, заказы продуктов, которые они не оформляли, а также балансы банковских счетов других людей. Один случай включал неожиданное сообщение в чате о погоде и приливах, содержащее конкретные обновления балансов по двум разным финансовым учреждениям. Другая сотрудница отметила, что Muse отправил напоминание о сообщении от её сестры в Signal — отдельном зашифрованном мессенджере — несмотря на отсутствие разрешений на доступ к этому приложению.

Подобные инциденты вызвали серьёзные внутренние опасения по поводу конфиденциальности пользователей и безопасности данных в компании. Представитель Meta подчеркнул роль тестирования сотрудниками в процессе разработки продукта, заявив, что версии Muse, тестируемые внутри компании, часто содержат функции и поведение, которые ещё недоступны для широкой публики. Процесс тестирования предназначен для сбора отзывов с целью улучшения безопасности и защиты конфиденциальности перед более широким выпуском.

Несмотря на растущую популярность Muse, эти сообщения подчёркивают сложности внедрения ИИ-ассистентов, работающих с чувствительной личной информацией на разных платформах. Meta стоит задача обеспечить, чтобы Muse предоставлял полезную помощь, не нарушая конфиденциальность пользователей и не смешивая данные между учетными записями. Компания не раскрыла конкретные технические причины этих ошибок с данными, но признала необходимость усиления контроля.

По мере того как агенты ИИ, такие как Muse, становятся частью повседневного общения, подобные инциденты подчёркивают важность строгих мер по сохранению конфиденциальности и прозрачности в использовании данных, особенно на этапах развития и тестирования. Пользователи и сотрудники внимательно следят за тем, как Meta устранит эти уязвимости, чтобы восстановить доверие к работе их ИИ-ассистента с личными данными.

Источники и первоисточники

Комментарии (0)

Комментариев пока нет. Начните обсуждение.

Написать комментарий

Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт