Meta приостанавливает функцию обмена чатами Muse AI после обнаружения публичного доступа к URL

Image: Meta pauses Muse sharing after researchers find AI chats on the web · Source

Meta временно приостановила функцию обмена разговорами своего AI-ассистента Muse после того, как исследователи безопасности обнаружили тысячи ссылок на общедоступные чаты через публичные записи DNS, что вызвало опасения по поводу конфиденциальности.

Meta приостановила функцию обмена для своего AI-ассистента Muse после того, как исследовательская фирма по безопасности обнаружила, что многие ссылки на общие разговоры были публично доступны в интернете. Компания Claroc, занимающаяся исследованиями в области безопасности, сообщила о нахождении более 6800 URL-адресов, связанных с разговорами Muse, путем анализа публичных записей DNS, которые служат каталогами интернет-трафика. Это открытие показало, что страницы с общими чатами Muse можно было легко найти и получить к ним доступ, имея URL или восстановив его по именам хостов DNS.

Функция обмена позволяет пользователям Muse создавать ссылки на свои разговоры с AI, чтобы другие могли их просмотреть. Однако Claroc объяснил, что дизайн Meta включает заголовки разговоров и уникальные идентификаторы непосредственно в веб-адреса, что упрощает предсказание или перечисление URL на основе публично доступной информации из DNS. Например, имя хоста в DNS часто раскрывало содержание еще до открытия страницы, облегчая получение конфиденциальной информации.

Среди подвергшихся огласке данных были чувствительные материалы: отчеты о доходах маркетинговой компании, детали заявки на кредит владельца малого бизнеса, календарь сотрудников на год из рабочего места и заметки с интервью кандидата в исследовательскую лабораторию AI. Эти находки подчеркивают потенциальные риски для конфиденциальности, если функции обмена AI-разговорами не имеют надежных средств контроля доступа.

Трейси Клейтон, представитель Muse, в письме The Verge заявила, что Meta приостановила возможность обмена, чтобы пересмотреть проблему и рассмотреть изменения для предотвращения легкого обнаружения общих ссылок. Ранее аналогичные опасения возникали с функциями обмена чатами AI других провайдеров, таких как ChatGPT от OpenAI, Claude от Anthropic и Grok от xAI, где разговоры случайно попадали в общедоступные результаты поиска.

Шаг Meta по временному отключению ссылок для обмена Muse подчеркивает вызовы балансировки удобства пользователей с конфиденциальностью и безопасностью данных в AI-ассистентах. Как именно Meta изменит эту функцию для защиты информации пользователей, пока неизвестно, но этот инцидент акцентирует необходимость осторожного проектирования, при котором общий AI-сгенерированный контент уважает конфиденциальность и предотвращает несанкционированный доступ через публичные интернет-записи.