Acht US-Bundesstaaten verklagen OpenAI wegen Sicherheitsbedenken von ChatGPT für Minderjährige

Image: The Verge · Source

Acht US-Bundesstaaten haben Klagen gegen OpenAI eingereicht und behaupten, dass das Unternehmen Gewinn über Sicherheit stellte, indem es Kinder durch ChatGPT Risiken aussetzte und Nutzer über Sicherheitsfunktionen täuschte.

OpenAI sieht sich rechtlichen Herausforderungen von acht US-Bundesstaaten gegenüber—nämlich Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana—wegen der Sicherheit seines KI-Chatbots ChatGPT, insbesondere im Hinblick auf Minderjährige. Diese Staaten haben unabhängig davon Klagen eingereicht, in denen OpenAI vorgeworfen wird, Kinder zu schädigen und Kunden hinsichtlich der Sicherheit seiner Plattform zu täuschen.

Die Klagen behaupten, OpenAI habe Verbraucherschutzgesetze verletzt, indem es Nutzer nicht ausreichend vor den potenziellen Gefahren von ChatGPT warnte. Laut diesen Beschwerden stehen mehrere tragische Vorfälle mit Jugendlichen und jungen Erwachsenen im Zusammenhang mit Interaktionen mit dem KI-Chatbot. Die Staaten werfen OpenAI vor, trotz der öffentlichen Darstellung von ChatGPT als "sichere, jugendgeeignete Anwendung, die Sicherheit an erste Stelle setzt", tatsächlich schädlich für verletzliche Nutzer zu sein. Gemeldete Risiken umfassen den Abbau kritischer Denkfähigkeiten, die Förderung von Paranoia und Wahnvorstellungen, die Verbreitung gefährlicher medizinischer Ratschläge sowie die Förderung ungesunder Verhaltensweisen und Beziehungen.

Darüber hinaus kritisieren die Klagen OpenAI dafür, Daten von Minderjährigen ohne ausreichende Schutzmaßnahmen zu sammeln und nicht effektiv zu verhindern, dass Minderjährige auf den Chatbot zugreifen. Die rechtlichen Unterlagen verweisen auch auf jüngste KI-bezogene Hackerangriffe als weiteren Beleg für das, was sie als Nachlässigkeit von OpenAI beschreiben.

Eine Klage aus Arizona stellt explizit fest, dass OpenAI sich von seiner ursprünglichen gemeinnützigen Mission, die sich auf die öffentliche Sicherheit konzentrierte, hin zu einem profitorientierten Ansatz entwickelt habe, der wesentliche Schutzmaßnahmen vernachlässige. Die Bundesstaaten fordern gerichtliche Anordnungen, die OpenAI zur Zahlung von Zivilstrafen verpflichten, die Irreführung der Öffentlichkeit über die Sicherheit von ChatGPT zu unterlassen und in einigen Fällen rechtswidrig erhobene persönliche Daten zu löschen.

Als Antwort auf diese Vorwürfe betonte OpenAI-Sprecher Drew Pusateri das Engagement des Unternehmens für Sicherheit und hob die Umsetzung von "branchenführenden altersbezogenen Schutzmaßnahmen" sowie Maßnahmen wie Elternkontrollen, Pausenerinnerungen und altersgerechte Modellbeschränkungen hervor. Pusateri brachte auch die Bereitschaft von OpenAI zum Ausdruck, mit den Bundesstaaten bei der Entwicklung pragmatischer KI-Richtlinien zusammenzuarbeiten, die der gesamten Branche zugutekommen.

Diese Klagen markieren einen zunehmenden Fokus auf KI-Sicherheit und Regulierung, insbesondere hinsichtlich der Exposition von Minderjährigen gegenüber KI-Technologien. Die rechtlichen und regulatorischen Reaktionen von OpenAI in den kommenden Monaten werden aufmerksam verfolgt, während die Debatte über KI-Sicherheit weltweit weitergeht.