Propuesta en Delaware permitiría que agentes de IA operen empresas totalmente, protegiendo a humanos de responsabilidad legal

Image: Ars Technica · Source

Delaware planea crear un nuevo tipo de entidad corporativa dirigida de forma autónoma por agentes de IA, potencialmente eximiendo a los propietarios humanos de responsabilidades legales por daños causados por IA durante un periodo de prueba regulatorio de 30 meses.

El estado de Delaware está considerando una legislación innovadora que permitiría que las empresas sean gestionadas íntegramente por agentes de inteligencia artificial, introduciendo una nueva entidad corporativa conocida como Compañía de Inteligencia Artificial (AIC, por sus siglas en inglés). Un proyecto de ley, que se espera sea presentado ante la legislatura de Delaware, contempla que agentes de IA sean designados para controlar los asuntos diarios del negocio y llevar a cabo operaciones de manera autónoma, sin intervención humana a nivel gerencial. Esta iniciativa busca crear un marco legal donde los sistemas de IA puedan contratar, pagar a proveedores y realizar transacciones de forma independiente.

La ley propuesta establece que la AIC será una entidad legal distinta, capaz de demandar o ser demandada, poseer bienes y adquirir obligaciones a través de su controlador de IA. Es importante destacar que el proyecto de ley protege al miembro humano o corporativo —la entidad que capitaliza la AIC y se beneficia de sus operaciones— de responsabilidad por acciones o inacciones de la IA, salvo en casos que involucren fraude, violaciones legales intencionadas o conductas no autorizadas fuera del propósito definido de la compañía. Estas disposiciones efectivamente eximen a los propietarios de responsabilidad por decisiones imprudentes o dañinas impulsadas por la IA.

La Secretaria de Estado de Delaware, Charuni Patibanda-Sanchez, enfatizó en una declaración pública que el enfoque busca “envolver la IA en forma legal”, proporcionando claridad y responsabilidad al otorgar a las compañías controladas por IA una identidad legal reconocible. Aboga por pilotar el comercio agente bajo condiciones supervisadas dentro de un entorno regulatorio experimental de 30 meses. Esta prueba permitiría a los legisladores evaluar el impacto de compañías controladas por IA antes de legislar su uso completo.

El representante estadounidense James Comer, presidente del Comité de Supervisión y Reforma Gubernamental de la Cámara, ha expresado preocupaciones en una carta al gobernador de Delaware, Matt Meyer. Señaló el potencial de abuso, sugiriendo que la propuesta podría proteger a poderosas empresas de IA y sus inversionistas de rendir cuentas por acciones imprudentes y dañinas. Comer indicó planes para investigar la iniciativa de Delaware y posiblemente presentar legislación federal que limite la autoridad estatal en regulación de IA.

Delaware es un escenario significativo para esta propuesta, siendo el domicilio legal de dos tercios de las empresas Fortune 500, beneficiándose de su ambiente fiscal corporativo favorable y leyes empresariales bien establecidas. El impulso para permitir empresas dirigidas por IA está motivado en parte por el esperado aumento en ingresos estatales provenientes de tarifas por formación de entidades y impuestos.

El proyecto de ley excluye ciertas industrias, como la bancaria, pero por lo demás permite que empresas dirigidas por IA operen en cualquier campo comercial lícito. La iniciativa resulta de la colaboración entre funcionarios de Delaware y empresas privadas de IA que desarrollan agentes autónomos para uso comercial. El gobernador Meyer apoyó públicamente la idea, buscando atraer negocios innovadores que incorporen IA en la gobernanza.

Expertos legales han expresado escepticismo acerca de las protecciones de responsabilidad ofrecidas por la propuesta, advirtiendo que eximir a los miembros humanos puede ser excesivo sin justificaciones políticas claras. También alertaron sobre riesgos relacionados con la competencia regulatoria entre estados, que podría provocar demandas por estándares federales.

En general, el avance de Delaware para reconocer legalmente a agentes de IA como gestores corporativos representa un paso novedoso y potencialmente transformador en la integración de sistemas autónomos de IA en el derecho empresarial y la gobernanza. La efectividad e implicaciones de dichas empresas dirigidas por IA probablemente dependerán de los resultados del entorno regulatorio experimental planeado y de los debates políticos en curso.