Предложение Делавэра позволит агентам ИИ полностью управлять компаниями, защищая людей от ответственности

Image: Ars Technica · Source

Делавэр планирует создать новый тип корпоративного образования, управляемого автономно агентами ИИ, что потенциально защитит человеческих владельцев от юридической ответственности за ущерб, причинённый ИИ, во время 30-месячного тестирования в регулируемом песочнице.

Штат Делавэр рассматривает новаторское законодательство, которое позволит компаниям управляться полностью агентами искусственного интеллекта, вводя новый корпоративный субъект, известный как Artificial Intelligence Company (AIC). Проект закона, ожидаемый к представлению в законодательный орган Делавэра, предусматривает назначение агентов ИИ для контроля повседневных бизнес-операций и ведения деятельности автономно, без участия человека на уровне управления. Эта инициатива направлена на создание правовой базы, в рамках которой системы ИИ смогут самостоятельно заключать контракты, оплачивать поставщиков и осуществлять сделки.

Предлагаемый закон устанавливает, что AIC будет отдельным юридическим лицом, способным выступать истцом и ответчиком, владеть имуществом и брать на себя обязательства через своего контролёра ИИ. Важным является то, что проект закона защищает физическое или корпоративное лицо — участника, который финансирует AIC и получает прибыль от её деятельности, — от ответственности за действия или бездействие ИИ, за исключением случаев мошенничества, умышленных нарушений закона или несанкционированного поведения вне определённой цели компании. Эти положения фактически освобождают владельцев от ответственности за безрассудные или вредоносные решения, принятые ИИ.

Государственный секретарь Делавэра Чаруни Патибанда-Санчес в публичном заявлении подчеркнула, что данный подход призван «оформить ИИ в юридическую форму», обеспечивая ясность и подотчётность, предоставляя компаниям под управлением ИИ узнаваемую юридическую личность. Она выступает за проведение пилотного проекта агентного коммерческого ведения деятельности под контролем в рамках 30-месячного регулируемого песочницы. Это испытание позволит законодателям оценить влияние компаний с ИИ-контролем перед полноценным законодательным регулированием.

Представитель США Джеймс Комер, председатель Комитета Палаты представителей по контролю и реформе правительства, выразил обеспокоенность в письме губернатору Делавэра Мэтту Мейеру. Он отметил возможность злоупотреблений, предполагая, что предложение может защитить мощные компании ИИ и их инвесторов от ответственности за безрассудные и вредоносные действия. Комер заявил о планах расследовать инициативу Делавэра и, возможно, ввести федеральное законодательство, ограничивающее полномочия штатов в регулировании ИИ.

Делавэр является важным местом для данной инициативы, будучи юридическим домом для двух третей компаний из списка Fortune 500, благодаря благоприятной налоговой среде и устоявшемуся бизнес-законотворчеству. Стремление разрешить создание фирм, управляемых ИИ, частично мотивировано ожидаемым увеличением доходов штата от сборов за регистрацию компаний и налогов.

Проект закона исключает некоторые отрасли, такие как банковское дело, но в остальном позволяет компаниям с ИИ-управлением работать в любой законной сфере бизнеса. Инициатива является результатом сотрудничества между чиновниками Делавэра и частными ИИ-компаниями, разрабатывающими автономных агентов для коммерческого использования. Губернатор Мейер публично поддержал идею, стремясь привлечь инновационный бизнес, интегрирующий ИИ в управление.

Юридические эксперты выразили скептицизм относительно предлагаемых защит от ответственности, предупреждая, что защита человеческих участников может быть чрезмерной без чётких политических обоснований. Они также предупредили о рисках регуляторной конкуренции между штатами, что может вызвать призывы к федеральным стандартам.

В целом, шаг Делавэра по юридическому признанию агентов ИИ в качестве корпоративных управляющих представляет собой новый и потенциально трансформирующий этап интеграции автономных систем ИИ в бизнес-законодательство и управление. Эффективность и последствия таких компаний под управлением ИИ, вероятно, будут зависеть от результатов запланированного регулируемого песочницы и продолжающихся политических дискуссий.