Anthropic schlägt KI-Sicherheitsgesetz vor, das Modellveröffentlichungen bei katastrophalen Risiken beschränkt

Image: TechCrunch · Source

Anthropic hat einen Entwurf für ein KI-Sicherheitsgesetz vorgelegt, das die Veröffentlichung von KI-Modellen verhindert, die unmittelbar drohende katastrophale Risiken bergen, wie über 50 Todesfälle oder Schäden in Milliardenhöhe, und eine gerichtliche Zustimmung zur Blockade der Bereitstellung erfordert.

Angesichts zunehmender Bedenken bezüglich der potenziellen Gefahren künstlicher Intelligenz hat das KI-Labor Anthropic einen Gesetzesentwurf vorgelegt, der sich auf die Sicherheit von KI konzentriert und einen neuen Rahmen für die Regulierung fortschrittlicher KI-Systeme vorschlägt. Laut Berichten von Politico zielt die von Anthropic vorgeschlagene Gesetzgebung darauf ab, die Freigabe von KI-Modellen zu verhindern, die ein „absehbares, unmittelbar bevorstehendes Risiko“ katastrophaler Folgen darstellen.

Der Entwurf legt spezifische Schwellenwerte für solche Risiken fest, darunter Szenarien, in denen die Veröffentlichung eines KI-Modells zum Tod von mehr als 50 Personen führen oder Sachschäden in Höhe von über einer Milliarde US-Dollar verursachen könnte. Diese Folgen müssen aus Ereignissen wie der Herstellung oder dem Einsatz einer biologischen Waffe, dem Entkommen des KI-Modells aus der Kontrolle seiner Entwickler oder der Beteiligung an einem Cyberangriff resultieren. Diese Kriterien ähneln der jüngsten kalifornischen Gesetzgebung (Senate Bill 53), die ebenfalls katastrophale Risiken definiert, die regulatorische Aufmerksamkeit erfordern.

Um zu beurteilen, ob ein KI-Modell solche Risiken birgt, schlägt Anthropic vor, „unabhängige Gutachter“ einzusetzen, die beim US-Handelsministerium registriert sind. Diese Gutachter, die möglicherweise von KI-Unternehmen finanziert werden, jedoch ohne Zahlungsbedingungen, die an die Bewertungsergebnisse gebunden sind, würden die KI-Modelle auf Risiken überprüfen. Wenn sie eine unmittelbar bevorstehende katastrophale Bedrohung feststellen, müssen sie das Handelsministerium innerhalb von 72 Stunden benachrichtigen. Anschließend müsste das Handelsministerium die Zustimmung eines Richters in Washington D.C. einholen, um die Veröffentlichung des Modells zu blockieren. Bemerkenswert ist, dass der Entwurf es keiner Bundesbehörde erlaubt, die Bereitstellung eines KI-Modells eigenständig ohne gerichtliche Zustimmung zu stoppen.

Dieser Rahmen steht im Gegensatz zu stärker selbstregulierten Ansätzen, die von Teilen der KI-Industrie bevorzugt werden. Trotz Warnungen vor existenziellen Risiken haben sich viele Unternehmen gescheut, eine verpflichtende Aufsicht zu akzeptieren, und stattdessen eine freiwillige Überwachung durch eingebettete unabhängige Gutachter innerhalb von KI-Organisationen vorgeschlagen. Der Entwurf von Anthropic, den sie seit Juni 2026 als Teil ihres Advanced AI Framework an Bundes- und Landesgesetzgeber herangetragen haben, stellt einen durchsetzungsfähigeren Regulierungsansatz dar als einige Wettbewerber wie Nvidia, die kürzlich gegen die Notwendigkeit neuer KI-Gesetze argumentierten.

Während die Verweise des Gesetzentwurfs auf katastrophale Risiken mit Massenopfern oder umfangreichen Sachschäden extremer sind als der übliche Branchenfokus auf Probleme wie agentenbasierte Hacking-Angriffe —bei denen KI-Systeme autonom Sicherheitsbarrieren überwinden— zielt der Vorschlag darauf ab, schwerwiegende Folgen vorzubeugen. Die Betonung gerichtlicher Aufsicht und unabhängiger Bewertung spiegelt den Versuch wider, Innovation und Sicherheit im Bereich KI in Einklang zu bringen.

Anthropic hat keine detaillierten öffentlichen Kommentare abgegeben, außer die Existenz des Entwurfs gegenüber Politico zu bestätigen. Der Ansatz des Unternehmens deutet auf die Bereitschaft hin, sich proaktiv an der Gestaltung der KI-Governance zu beteiligen, wobei die Resonanz des Gesetzentwurfs im Kongress und unter anderen KI-Akteuren noch abzuwarten ist. Während die Regulierungsgespräche andauern, trägt das Gesetzesvorhaben von Anthropic zur fortschreitenden Debatte darüber bei, wie KI-Risiken am besten gemanagt werden können, ohne den technologischen Fortschritt zu behindern.