Förslag i Delaware skulle låta AI-agentmer driva företag helt och skydda människor från ansvar

Bild: Ars Technica · Källa

Delaware planerar att skapa en ny företagsform som styrs autonomt av AI-agenter, vilket potentiellt skulle skydda mänskliga ägare från juridiskt ansvar för skador orsakade av AI under en 30-månaders testperiod i ett regleringssandbox.

Delaware överväger en banbrytande lagstiftning som skulle tillåta företag att helt och hållet styras av artificiella intelligens-agenter, med en ny företagsform kallad Artificial Intelligence Company (AIC). Ett utkast till lagförslag, som förväntas lämnas till Delawares lagstiftande församling, föreställer sig att AI-agenter utses för att kontrollera dagliga affärsangelägenheter och bedriva verksamhet autonomt utan mänsklig inblandning på ledningsnivå. Initiativet syftar till att skapa en juridisk ram där AI-system kan ingå avtal, betala leverantörer och genomföra transaktioner självständigt.

Den föreslagna lagen fastställer att AIC ska vara en egen juridisk person som kan stämma eller bli stämd, äga egendom och ådra sig skyldigheter genom sin AI-styrning. Viktigt är att utkastet skyddar den mänskliga eller företagande medlemmen — den enhet som kapitaliserar AIC och drar nytta av dess verksamhet — från ansvar för handlingar eller underlåtenheter från AI, utom i fall som innebär bedrägeri, avsiktliga lagöverträdelser eller obehörigt beteende utanför företagets definierade syfte. Dessa bestämmelser skyddar effektivt ägarna från ansvar för vårdslösa eller skadliga beslut tagna av AI.

Delawares Secretary of State Charuni Patibanda-Sanchez betonade i ett offentligt uttalande att tillvägagångssättet är tänkt att "omsluta AI i en juridisk form", vilket ger tydlighet och ansvarighet genom att ge AI-styrda företag en igenkännbar juridisk identitet. Hon förespråkar att testa agentbaserad handel under övervakade förhållanden inom en 30 månader lång regleringssandbox. Denna prövning skulle tillåta lagstiftare att utvärdera AI-styrda företags effekter innan fullständig lagstiftning om deras användning genomförs.

USA:s representant James Comer, ordförande i Representanthusets kommitté för tillsyn och regeringsreform, har uttryckt oro i ett brev till Delawares guvernör Matt Meyer. Han framhöll risken för missbruk och antydde att förslaget kan skydda mäktiga AI-företag och deras investerare från ansvar för vårdslösa och skadliga handlingar. Comer indikerade planer på att undersöka Delawares initiativ och eventuellt föreslå federal lagstiftning för att begränsa staters myndighet över AI-reglering.

Delaware är en betydelsefull plats för detta förslag, då två tredjedelar av Fortune 500-företagen är registrerade där, delvis tack vare dess gynnsamma företagsbeskattning och väletablerade affärsjuridik. Initiativet att möjliggöra AI-styrda företag är delvis drivet av förväntade ökningar av statliga intäkter från avgifter och skatter kopplade till företagsbildning.

Utkastet undantar vissa branscher, som bankverksamhet, men tillåter i övrigt AI-styrda företag att verka inom alla lagliga affärsområden. Initiativet är ett resultat av samarbete mellan Delawares tjänstemän och privata AI-företag som utvecklar autonoma agenter för kommersiell användning. Guvernör Meyer har offentligt stött idén och syftar till att attrahera innovativa företag som integrerar AI i styrningen.

Juridiska experter har uttryckt skepsis mot de ansvarsskydd som förslaget erbjuder och varnat för att skyddet för mänskliga medlemmar kan vara överdrivet utan tydliga politiska motiveringar. De varnar också för risker kopplade till regulatorisk konkurrens mellan delstater, vilket potentiellt kan leda till krav på federala standarder.

Sammanfattningsvis markerar Delawares steg att juridiskt erkänna AI-agenter som företagsledare ett nytt och potentiellt omvälvande steg i integrationen av autonoma AI-system i affärsjuridik och styrning. Effektiviteten och konsekvenserna av sådana AI-styrda företag kommer sannolikt att bero på resultatet av den planerade regleringssandlådan och pågående policydebatter.