Delaware-forslag vil la AI-agenter drive selskaper fullt ut, og beskytte mennesker mot ansvar

Bilde: Ars Technica · Kilde

Delaware planlegger å opprette en ny selskapsform styrt autonomt av AI-agenter, som potensielt kan skjerme menneskelige eiere fra juridisk ansvar for skader forårsaket av AI under en 30-måneders regulatorisk sandkasseprøve.

Delaware vurderer en banebrytende lovgivning som vil tillate at selskaper styres fullt ut av kunstige intelligens-agenter, ved å introdusere en ny selskapsenhet kjent som Artificial Intelligence Company (AIC). Et utkast til lovforslag, som forventes å bli sendt til Delawares lovgivende forsamling, skisserer at AI-agenter skal utpekes til å kontrollere daglige forretningsprosesser og drive virksomheten autonomt, uten menneskelig involvering på ledernivå. Dette initiativet har som mål å etablere et juridisk rammeverk der AI-systemer kan inngå kontrakter, betale leverandører og utføre transaksjoner selvstendig.

Den foreslåtte loven fastslår at AIC skal være en selvstendig juridisk enhet som kan gå til sak eller bli saksøkt, eie eiendom og pådra seg forpliktelser gjennom sin AI-kontroller. Viktigst er at lovutkastet beskytter den menneskelige eller selskapsmessige medlemmen — enheten som gir kapital til AIC og tjener på dets drift — fra ansvar for handlinger eller unnlatelser foretatt av AI, unntatt i tilfeller som involverer svindel, vilkårlige lovbrudd eller uautorisert virksomhet utenfor selskapets definerte formål. Disse bestemmelsene skjermet effektivt eierne fra ansvar for uforsiktige eller skadelige beslutninger som AI tar.

Delaware Secretary of State Charuni Patibanda-Sanchez understreket i en offentlig uttalelse at tilnærmingen er ment å "pakke AI inn i en juridisk form," og gi klarhet og ansvar ved å tildele AI-styrte selskaper en gjenkjennelig juridisk identitet. Hun tilrår et pilotprosjekt for agentbasert handel under overvåkede forhold innenfor en 30 måneders regulatorisk sandkasse. Denne prøven vil la lovgivere evaluere virkningen av AI-styrte selskaper før full lovgivning på området innføres.

Representant James Comer, leder for Representantenes hus komité for tilsyn og regjeringsreform, har uttrykt bekymring i et brev til Delaware-guvernør Matt Meyer. Han fremhevet risikoen for misbruk og antydet at forslaget kan beskytte mektige AI-selskaper og deres investorer fra ansvar for uforsiktige og skadelige handlinger. Comer indikerte planer om å undersøke Delawares initiativ og muligens introdusere føderal lovgivning for å begrense staters myndighet over AI-regulering.

Delaware er et viktig sted for dette forslaget, og er hjem til to tredjedeler av Fortune 500-selskapene, og drar nytte av gunstige selskapsbeskatning og veletablerte forretningslover. Initiativet for å muliggjøre AI-styrte selskaper er delvis drevet av forventede økninger i statlige inntekter fra gebyrer og skatter knyttet til selskapsdannelse.

Utkastet utelukker visse industrier, som bankvirksomhet, men tillater ellers AI-styrte selskaper å operere innenfor alle lovlige forretningsområder. Initiativet er et resultat av samarbeid mellom representanter for Delaware og private AI-selskaper som utvikler autonome agenter for kommersiell bruk. Guvernør Meyer har offentlig støttet ideen, med mål om å tiltrekke innovative virksomheter som integrerer AI i styringen.

Juridiske eksperter har uttrykt skepsis til ansvarsbeskyttelsen som forslaget tilbyr, og advart om at beskyttelsen av menneskelige medlemmer kan være overdreven uten klare politiske begrunnelser. De advarer også mot risikoen ved regulatorisk konkurranse mellom stater, som potensielt kan føre til krav om føderale standarder.

Alt i alt markerer Delawares initiativ for å juridisk anerkjenne AI-agenter som selskapsledere et nytt og potensielt omskiftende steg i integreringen av autonome AI-systemer i forretningsjuss og styring. Effektiviteten og konsekvensene av slike AI-styrte selskaper vil sannsynligvis avhenge av resultatene fra den planlagte regulatoriske sandkassen og pågående politiske debatter.