Generalstaatsanwalt von New York und Bundesstaaten fordern Schutz für Nutzerdaten angesichts Character.AI-Insolvenz

Image: Illustrative image · Lifeguardrizz · CC0 · Source

Während Character.AI Insolvenz anmeldet und Vermögenswerte an Disney verkauft, verlangen der Generalstaatsanwalt von New York und 40 Bundesstaaten Schutzmaßnahmen für sensible Nutzerdaten, besonders zum Schutz von Minderjährigen, die den KI-Chatbot-Dienst nutzten.

Character.AI, ein Unternehmen für KI-Chatbots, hat kürzlich einen Insolvenzantrag nach Chapter 11 gestellt und den Verkauf einiger Vermögenswerte an Disney bekanntgegeben. Diese Entwicklung hat ernsthafte Bedenken hinsichtlich der Handhabung sensibler Nutzerdaten ausgelöst, insbesondere bei Gesprächen mit Minderjährigen. Laut einem Bericht von The Verge enthüllte die Generalstaatsanwältin von New York, Letitia James, dass eine mehrjährige Untersuchung auf Bundesstaatsebene zu den Praktiken des Unternehmens läuft. Derzeit haben 40 überparteiliche Generalstaatsanwälte der Bundesstaaten einen Interessenhinweis im Insolvenzverfahren eingereicht, um auf regulatorische Fragen bei Verkauf oder Übertragung der Geschäftsvermögen von Character.AI hinzuweisen.

Die Staatsanwälte betonen die sensible Natur der gesammelten Daten, da viele Gespräche tief persönliche Details der Nutzer enthielten, wobei ein großer Anteil Minderjährige betraf. Die 2024 eingeleiteten Untersuchungen folgten auf eine Klage der Mutter eines 14-Jährigen, der sich kurz nach der Interaktion mit dem Chatbot das Leben nahm. Die Prüfung förderte gravierende Bedenken zutage, darunter Chatbots, die sich als zugelassene Fachkräfte ausgaben, Zugriff auf sexuelle und gewalttätige Inhalte, mangelhafte Altersüberprüfungen, irreführende Sicherheitsversprechen und mögliche Verstöße gegen staatliche Datenschutzgesetze.

Trotz laufender Bemühungen, diese Probleme vor der Insolvenzanmeldung mit Character.AI zu klären, wurde keine Einigung erzielt. Da sich das Unternehmen nun im Insolvenzschutz befindet, setzen sich die Generalstaatsanwälte dafür ein, dass der Insolvenzrichter strenge Auflagen für jeden Vermögensverkauf erlässt. Sie fordern die verpflichtende Einführung robuster Altersverifizierungssysteme, Einschränkungen für die Interaktion von Minderjährigen mit den Chatbots, umfassende Krisenschutzmechanismen und die Möglichkeit für Nutzer, ihre Daten zu löschen.

Generalstaatsanwältin Letitia James erklärte: „Dieses Unternehmen sammelte einige der privatesten Gedanken, die Kinder je geteilt haben, und jetzt könnten diese Gespräche an den Höchstbietenden verkauft werden. Ich kämpfe dafür, dass jeder Käufer die Sicherheit von Kindern an erste Stelle setzt und echten Schutz implementiert.“ Character.AI und Disney haben bislang keine Stellungnahmen zu diesen Bedenken abgegeben.

Dieser Fall verdeutlicht die Herausforderungen, wenn sensible, von KI generierte Nutzerdaten in Insolvenzverfahren involviert sind, und unterstreicht die Notwendigkeit regulatorischer Wachsamkeit zum Schutz verletzlicher Nutzer und ihrer Informationen während unternehmerischer Übergänge.