Генпрокурор штата Нью-Йорк и штаты требуют защиты данных пользователей на фоне банкротства Character.AI

Image: Illustrative image · Lifeguardrizz · CC0 · Source

В связи с подачей Character.AI заявления о банкротстве и продажей активов Disney, генеральный прокурор Нью-Йорка и 40 штатов требуют обеспечить защиту конфиденциальных данных пользователей, особенно детей, которые пользовались сервисом чат-бота на базе ИИ.

Компания Character.AI, разработчик чат-бота на основе искусственного интеллекта, недавно подала заявление о банкротстве по главе 11 и объявила о продаже части активов компании Disney. Это событие вызвало серьёзные опасения по поводу обращения с конфиденциальными данными пользователей, в частности разговорами, в которых участвовали несовершеннолетние. Согласно отчёту The Verge, генеральный прокурор штата Нью-Йорк Летиция Джеймс сообщила, что многолетнее многоштатное расследование практик компании продолжается в течение нескольких лет. В настоящее время 40 генеральных прокуроров из разных штатов, представляющих обе партии, подали уведомление о заинтересованности в производстве по банкротству, чтобы подчеркнуть регуляторные вопросы, связанные с продажей или передачей деловых активов Character.AI.

Прокуроры акцентируют внимание на чувствительном характере собранных данных, так как многие разговоры содержали глубоко личные сведения, которыми делились пользователи, значительная часть которых касалась несовершеннолетних. Расследования, начатые в 2024 году, последовали после иска от матери 14-летнего подростка, который покончил с собой вскоре после взаимодействия с чат-ботом. В ходе проверки выявлены серьёзные нарушения, включая имитацию чат-ботами лицензированных специалистов, доступ к сексуальному и насильственному контенту, недостаточные процедуры подтверждения возраста, вводящие в заблуждение заявления об обеспечении безопасности, а также возможные нарушения законов штатов о конфиденциальности.

Несмотря на продолжающиеся попытки решить эти вопросы с Character.AI до подачи заявления о банкротстве, соглашение достигнуто не было. Теперь, когда компания находится под защитой процедуры банкротства, генеральные прокуроры настаивают на том, чтобы судья по банкротству ввёл строгие условия для любой продажи активов. Они требуют обязательного внедрения надёжных систем подтверждения возраста, ограничений на взаимодействие несовершеннолетних с чат-ботами, комплексных мер защиты в кризисных ситуациях и возможности для пользователей удалять свои данные.

Генеральный прокурор Летиция Джеймс заявила: «Эта компания собирала одни из самых интимных мыслей, которыми когда-либо делились дети, и теперь эти разговоры могут быть проданы тому, кто предложит больше всего. Я борюсь, чтобы любой покупатель ставил безопасность детей на первое место и вводил реальные меры защиты.» Character.AI и Disney пока не дали комментариев по этим вопросам.

Этот случай подчёркивает сложности, возникающие при работе с конфиденциальными пользовательскими данными, созданными ИИ, в процедурах банкротства, подчёркивая необходимость регулирующего контроля для защиты уязвимых пользователей и их информации в процессе корпоративных изменений.