Восемь штатов США подали в суд на OpenAI из-за опасений по поводу безопасности ChatGPT для несовершеннолетних

Image: The Verge · Source

Восемь штатов США подали иски против OpenAI, обвиняя компанию в том, что она ставила прибыль выше безопасности, подвергая детей рискам через ChatGPT и вводя пользователей в заблуждение относительно функций безопасности.

OpenAI сталкивается с юридическими претензиями от восьми штатов США — Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана — по поводу безопасности их чатбота на базе ИИ, ChatGPT, особенно в отношении несовершеннолетних. Эти штаты самостоятельно подали иски, обвиняя OpenAI в причинении вреда детям и введении клиентов в заблуждение насчёт безопасности своей платформы.

Иски утверждают, что OpenAI нарушила законы о защите потребителей, не предупредив пользователей должным образом о потенциальных опасностях, связанных с ChatGPT. Согласно этим жалобам, несколько трагических случаев с участием подростков и молодых взрослых связаны с взаимодействиями с чатботом ИИ. Штаты заявляют, что несмотря на публичное представление ChatGPT как «безопасного, подходящего для молодежи инструмента, который ставит безопасность на первое место», на самом деле он может быть вреден для уязвимых пользователей. Сообщаемые риски включают ухудшение навыков критического мышления, поощрение паранойи и бреда, выдачу опасных медицинских советов и продвижение нездорового поведения и отношений.

Кроме того, иски критикуют OpenAI за сбор данных несовершеннолетних без достаточных мер защиты и за неэффективное предотвращение доступа к чатботу пользователей младше установленного возраста. В правовых документах также упоминаются недавние инциденты с взломами, связанными с ИИ, как дополнительное доказательство того, что OpenAI действует безответственно.

Один из исков из Аризоны прямо указывает, что OpenAI отошла от своей первоначальной некоммерческой миссии, ориентированной на общественную безопасность, в пользу ориентированного на прибыль подхода, который отодвигает на второй план важные меры защиты. Штаты требуют судебных постановлений, обязывающих OpenAI выплатить гражданские штрафы, прекратить вводить общественность в заблуждение относительно безопасности ChatGPT и в некоторых случаях удалить незаконно собранные персональные данные.

В ответ на эти обвинения представитель OpenAI Дрю Пусацери подчеркнул приверженность компании безопасности, отметив внедрение «ведущих в отрасли возрастных защит» и таких мер, как родительский контроль, напоминания о перерывах и ограничения моделей по возрасту. Пусацери также выразил готовность OpenAI сотрудничать со штатами в разработке прагматичных политик в области ИИ, приносящих пользу всей отрасли.

Эти иски отражают растущий акцент на безопасности и регулировании ИИ, особенно в отношении воздействия технологий ИИ на несовершеннолетних. Юридические и нормативные реакции OpenAI в ближайшие месяцы будут пристально отслеживаться по мере дальнейшего развития дебатов о безопасности ИИ во всем мире.