Vorschlag in Delaware würde KI-Agenten erlauben, Unternehmen vollständig zu führen und Menschen von Haftung freistellen

Image: Ars Technica · Source

Delaware plant die Schaffung eines neuen Unternehmensrechtskörpers, der autonom von KI-Agenten geführt wird und menschliche Eigentümer während eines 30-monatigen regulatorischen Pilotversuchs möglicherweise vor rechtlicher Haftung für durch KI verursachte Schäden schützt.

Der Bundesstaat Delaware erwägt eine bahnbrechende Gesetzgebung, die es Unternehmen erlauben soll, vollständig von künstlichen Intelligenzagenten geführt zu werden, indem eine neue Unternehmensform namens Artificial Intelligence Company (AIC) eingeführt wird. Ein Gesetzentwurf, der voraussichtlich dem Gesetzgeber von Delaware vorgelegt wird, sieht vor, dass KI-Agenten für die tägliche Geschäftsführung zuständig sind und autonome Operationen ohne menschliches Eingreifen auf Managementebene durchführen. Diese Initiative zielt darauf ab, einen rechtlichen Rahmen zu schaffen, in dem KI-Systeme eigenständig Verträge abschließen, Lieferanten bezahlen und Transaktionen durchführen können.

Das vorgeschlagene Gesetz sieht vor, dass die AIC eine eigenständige juristische Person ist, die klagen oder verklagt werden kann, Eigentum besitzt und Verpflichtungen durch ihren KI-Controller eingeht. Wichtig ist, dass der Entwurf den menschlichen oder unternehmerischen Gesellschafter – also die Einheit, die die AIC kapitalisiert und von deren Betrieb profitiert – vor Haftung für Handlungen oder Unterlassungen der KI schützt, außer in Fällen von Betrug, vorsätzlichen Rechtsverstößen oder unerlaubtem Verhalten außerhalb des definierten Unternehmenszwecks. Diese Bestimmungen entbinden Eigentümer effektiv von der Verantwortung für leichtfertige oder schädliche KI-gesteuerte Entscheidungen.

Die Staatssekretärin von Delaware, Charuni Patibanda-Sanchez, betonte in einer öffentlichen Erklärung, dass der Ansatz darauf abzielt, „KI in eine rechtliche Form zu hüllen“ und Klarheit sowie Verantwortlichkeit zu schaffen, indem KI-gesteuerten Unternehmen eine erkennbare rechtliche Identität verliehen wird. Sie plädiert für ein Pilotprojekt mit agentenbasiertem Handel unter überwachten Bedingungen in einem 30-monatigen regulatorischen Sandbox-Test. Dieser Versuch soll es den Gesetzgebern ermöglichen, die Auswirkungen der KI-gesteuerten Unternehmen vor der endgültigen Regulierung zu bewerten.

Der US-Abgeordnete James Comer, Vorsitzender des House Committee on Oversight and Government Reform, äußerte in einem Schreiben an den Gouverneur von Delaware, Matt Meyer, Bedenken. Er hob das Missbrauchspotenzial hervor und schlug vor, dass der Vorschlag mächtige KI-Unternehmen und deren Investoren vor Haftung für leichtfertige und schädliche Handlungen schützen könnte. Comer kündigte Pläne an, die Initiative in Delaware zu untersuchen und möglicherweise Bundesgesetze einzuführen, die staatliche Befugnisse bei der KI-Regulierung einschränken.

Delaware ist ein bedeutender Standort für diesen Vorschlag, da dort zwei Drittel der Fortune-500-Unternehmen ihren rechtlichen Sitz haben und von der günstigen Unternehmenssteuerumgebung sowie etablierten Unternehmensgesetzen profitieren. Der Vorstoß, KI-geführte Unternehmen zu ermöglichen, wird teilweise durch erwartete Einnahmensteigerungen aus Gründungsgebühren und Steuern motiviert.

Der Entwurf schließt bestimmte Branchen, wie das Bankwesen, aus, erlaubt ansonsten jedoch KI-geführten Unternehmen, in jedem legalen Geschäftsfeld tätig zu sein. Die Initiative entstand aus der Zusammenarbeit zwischen Beamten Delawares und privaten KI-Unternehmen, die autonome Agenten für den kommerziellen Einsatz entwickeln. Gouverneur Meyer unterstützte die Idee öffentlich und will innovative Unternehmen anziehen, die KI in der Unternehmensführung integrieren.

Rechtsexperten äußerten Skepsis gegenüber den angebotenen Haftungsschutzregelungen und warnten, dass die Freistellung menschlicher Gesellschafter übermäßig sein könnte, wenn keine klaren politischen Rechtfertigungen vorliegen. Sie warnten auch vor Risiken im Zusammenhang mit einem regulatorischen Wettbewerb zwischen den Bundesstaaten, der Forderungen nach bundesweiten Standards hervorrufen könnte.

Insgesamt markiert Delawares Schritt, KI-Agenten als Unternehmensführer rechtlich anzuerkennen, einen neuartigen und potenziell transformierenden Schritt in der Integration autonomer KI-Systeme in Unternehmensrecht und Governance. Die Wirksamkeit und Auswirkungen solcher KI-geführter Unternehmen werden wahrscheinlich von den Ergebnissen des geplanten regulatorischen Sandbox-Tests und den laufenden politischen Debatten abhängen.